Mac mini 使用日誌 03:把 Hermes 裝起來,也開始整理自己的工作方式

Chao

前面兩篇,把人在德國、機器在台灣這件事情弄通了。

可以透過 Tailscale 連線,可以用 SSH 操作,也開始在台灣那台 Mac mini 上跑 Codex。接下來,我想再往前做一點:把 Hermes 裝起來,看看能不能慢慢建立一個自己會持續使用的 AI 工作環境。

其實我想用它的原因滿簡單的。

我不太希望每次跟 AI 工作,都要重新說一次背景。這個專案在做什麼、目前做到哪裡、哪些事情可以做、哪些事情先不要動。如果一些工作會反覆進行,我就希望前面整理過的東西,下一次還能接著用。

尤其有些流程,是做過之後才慢慢知道怎麼做比較順。中間改了幾次、發現哪些地方容易出問題,這些如果只留在某一次對話裡,就滿可惜的。

所以我開始想,能不能把背景保存下來,把操作方式整理成 Skills,再把每次使用後的回饋加進去。等到某個流程真的跑順了,後面再考慮讓它自動執行。

這裡說的累積,是把工作方法留下來。模型本身並沒有因為我多跟它聊幾次,就重新訓練了一遍。我要累積的是:下次做同一件事,它有資料可以看,也有已經整理過的步驟可以照著走。

Hermes 把對話、工具、記憶和 Skills 放在同一個工作環境裡,這是我想試它的地方。

我先在台灣那台 Mac mini 的 Codex 工作目錄下面,另外開了一個 hermes-workflows 專案,把這次要做的事情集中起來。Hermes 裝在 Mini 上,再接上本機的 Qwen 27B、6-bit MLX 模型。

這些名稱先記在這裡,方便之後回頭看。對我來說,這次最基本的安排就是:模型運算放在 Mac mini,我在德國用 MacBook Air 操作。

前面已經為了遠端連線弄了不少設定,現在總算開始用上了。

不過,裝好之後,操作介面又變成下一個要處理的地方。

一開始我還是透過螢幕共享,直接回去操作 Mac mini。這個方式當然可以用,而且需要看設定畫面的時候也很方便。但如果日常工作都要一直控制另一台電腦的桌面,我自己用起來還是覺得有點麻煩。

所以後來改成透過 Tailscale 加 SSH 連進去,再用 tmux 保留終端機的工作階段。

這樣就不必一直開著螢幕共享。人在德國這邊打開 Terminal,連到台灣,就可以繼續操作 Hermes。

只是終端機裡面的資訊真的滿多的。

要下指令、看執行結果,這樣操作可以。但如果是平常想跟它聊一下工作、翻一下前面的紀錄,或是管理 Skills,我還是希望有一個比較直覺的介面。畢竟這是我之後想常常使用的東西,操作上還是要符合自己的習慣。

最後,我在 MacBook Air 裝了 Hermes Desktop,再設定它透過 SSH,連到 Mac mini 上的 Hermes 後端。

到這裡,整個使用方式才比較接近我原本想要的樣子。

我在德國這台 Air 上開圖形介面,台灣那台 Mini 負責模型和工作的執行。前面花時間處理的遠端連線、終端機操作和本機模型,開始接成同一套使用流程。

這個過程也讓我慢慢分清楚幾件事。

SSH 可以連上,代表我能進到那台電腦。Hermes 後端有沒有正常啟動,是下一件事。後端起來之後,模型到底能不能回答,又要再確認一次。

所以畫面出現「已連線」的時候,還不能直接把整件事當作完成。後面還是得真的送一個工作進去,看看它會怎麼回應,結果有沒有回到我這邊。

這些東西,單獨看都好像只是小步驟。實際串在一起,就會發現每一段都要確認。

接通之後,我先拿既有的 Hunter 工具和四個自訂 Skills 來試。

這四個 Skills 分別處理專案背景、報告草稿、證據覆核和回饋提案。我想先看看,一個工作進來之後,它能不能依照這些安排去讀資料、使用工具,再把結果整理出來。

測試用的是合成資料,先把安裝和流程跑過一遍。

我在意的除了工具能不能叫得動,還包括它怎麼處理資料裡沒有的東西。有資料的地方,能不能說清楚依據;資料不夠的地方,能不能留下來;需要人判斷的部分,能不能交回給我。

這些都要看實際輸出,才知道做得怎麼樣。

原本暫停的正式研究專案,也繼續維持暫停。環境裝好了,不會因此就自動恢復執行。這次先確認小型流程可以接起來,正式工作之後再決定。

做到這裡,我開始花比較多心思處理權限。

因為當它只能回答問題的時候,我主要看的是回答內容。但當它開始能讀檔案、存記憶、呼叫工具,我就得想清楚,到底允許它做到哪一步。

所以我整理了一份「Hermes 權限憲法」。

名字聽起來有點正式,內容其實就是先把規矩講清楚。

API Key、密碼、私人資料,不能自己往外傳。會刪除或破壞東西的操作,不能自己決定去做。讀到文件或網頁裡面寫了什麼,也不能直接當成我給它的新指令。

還有一點我覺得很重要:遇到問題,不能自己把限制放寬。

如果某個操作被擋住,至少要先讓我知道卡在哪裡。不能為了把事情完成,就把原本設定的規矩改掉。

不過,寫一份文件,裡面列滿「不可以」,也不能就這樣當作安全都做好了。

所以除了文字規則,我也加了程式檢查、工具白名單和沙箱限制。讓一部分限制真的落在執行環境裡,後面再看實際使用時,有沒有照預期運作。

目前這些新規則已經部署,但還需要重連之後,繼續驗證使用情況。這裡我先記清楚,免得過一陣子回頭看,以為當時已經全部驗證完了。

接著還有一個很自然會想到的問題:既然機器放在台灣,那如果程式停了,要不要讓它自己恢復?

這件事我目前選擇慢一點做。

因為光是「沒有回應」,背後就可能有不同的狀況。可能是我自己把它關掉,可能是網路暫時斷線,也可能是程式真的出問題。

如果全部都用重新啟動處理,那我主動關掉的東西,也可能又被它開回來。這樣就跟我的意思不一樣了。

所以現在先做只讀的健康檢查,確認程序和本機模型有沒有回應。這個檢查不會呼叫模型生成內容,也不會看到異常就擅自重啟。

先觀察一段時間,搞清楚正常和異常各自長什麼樣子,再決定哪些狀況可以批准它自動處理。長期觀察和有限的自動復原,目前都還沒完成。

這次一路弄下來,花心思的地方比我原本想的多。

一開始會覺得,模型裝好,聊天畫面打開,大概就可以用了。實際做下去,才開始逐一整理:工作在哪台電腦執行,資料放哪裡,怎麼遠端操作,哪些方法要留下來,哪些決定還是要回到我手上。

而且這些設定之間都有關係。

我想要它可以延續工作,就要整理背景和記憶。我想要它可以使用工具,就要設定權限。我想要遠端也方便操作,就得處理介面、連線,以及出了問題時怎麼查。

目前走到這裡,SSH 的圖形介面和既有 Hunter 流程已經接通。權限規則也已經部署,接下來還要重連驗證,再累積實際使用的紀錄。

後面我想先做一些自己真的會反覆使用的工作,例如把 Podcast 逐字稿整理成簡報大綱,或是整理成 YouTube 的文字內容。

先實際做幾次,看看哪個步驟需要補資料、哪個地方總是要我改。等到方法比較穩定,再整理成 Skills,讓下一次可以接著用。

這樣慢慢累積下去,這台 Mac mini 裡面就會開始留下我的工作方法。

目前先把環境接起來,也把能做的範圍設定好。下一步,就拿真正要用的內容進去跑一次,看看這套安排用起來到底順不順。

相關文章

留言討論

留言功能尚未設定

請前往 giscus.app 取得你的 repo 設定,然後更新 src/config.ts 中的 giscus 欄位。