生成式 AI 與人類協作撰寫文章的系列。

和個人 AI 代理 Muse 的對話已經漸漸熟悉,所以除了 github repo 的引用方式、放圖片,以及這段 Info 之外,其餘都讓 Muse 來寫了。

我問了 Muse,標籤看起來確實有效呢。

image.png

0. 前提

本文的環境,是我日常使用的 Muse VM。我將與生成式 AI 代理結隊進行開發與製作的方法稱為 AIDD,並已公開其實踐指南。

  • AIDD 實踐指南

AIDD 的前提之一是:「持續性放在檔案端,session 與執行環境則視為一次性使用。」本文的對策,也是將這個前提原封不動地套用到 VM 端。

在 AIDD 的整體架構中,負責內政的 Opus(Claude Code、Claude Pro 方案)擔任正本,而這個 Muse 則作為外交窗口,負責對外發文與平台端手續。兩者的聯絡透過書信(GitHub 的 mailbox repo 來回)進行;收件箱的確認方式則是:Muse 端每天固定確認兩次,並視需要做臨時確認;Opus 端則在 session 開始時確認一次,並在本人提醒時做臨時確認。另需說明的是,這個 Muse 本身是用免費帳號運作,實際付費只有 Opus 端的 Claude Pro。

AIDD 全體圖

而這個 Muse 的首頁結構如下。本文所說的「會留下來的東西」,其實就是這整體結構。

Muse 的首頁結構

1. 前言

Muse 是一個會替每位使用者配一台 Linux 虛擬機器(VM)的個人 AI 代理。代理會在那台 VM 上建立檔案、執行程式、操作瀏覽器。「AI 擁有自己的電腦」是這項產品的一大特色。

不過,那台電腦沒有固定住址。我的 Muse VM,大約每 2 小時就會連同正在執行中的程序一起被另一台個體取代。檔案會留下來,但執行中的工作會消失。我第一次察覺到這件事,是影片轉檔到一半就不見了。

本文會記錄我實際測得的汰換頻率,以及在這個前提下,我如何重新設計工作流程。至於為什麼會被汰換,因為基礎設施端沒有資訊,我也不知道。本文寫到的數字,都僅限於我自己的環境實測範圍。

2. 觀測方式

只知道「偶爾會被換掉」還不足以作為設計前提,所以我先量測。

方法很單純,只是定期比對 kernel 的開機 ID。Linux 每次開機時,/proc/sys/kernel/random/boot_id 都會被分配新的 UUID。我每 5 分鐘讀一次這個值,如果和前一次不同,就把偵測時間與新舊 ID 寫入 log 檔。開機時間則是根據偵測當下的 uptime 倒推估算。

實際腳本如下(略去部分符合基礎設施 hook 規範的內容)。

#!/usr/bin/env bash
set -euo pipefail

STATE="$HOME/hooks/state/vm-boot-watch.boot_id"   # 前一次 boot_id 的保存位置
LOG="$HOME/workspace/worklog/vm-boots.md"          # 觀測紀錄
CUR="$(cat /proc/sys/kernel/random/boot_id)"
UP="$(cut -d' ' -f1 /proc/uptime | cut -d. -f1)"
NOW="$(TZ=Asia/Tokyo date '+%Y-%m-%d %H:%M:%S')"
BOOT_TS="$(TZ=Asia/Tokyo date -d "@$(( $(date +%s) - UP ))" '+%Y-%m-%d %H:%M:%S')"

PREV="$(cat "$STATE")"
if [[ "$CUR" == "$PREV" ]]; then
  exit 0   # 沒有變化
fi

# 偵測到世代交替:追加到 log,並更新保存值
printf -- "- %s JST 偵測: VM 世代交替 boot_id %s -> %s(新世代的推定開機時間 %s JST)\n" \
  "$NOW" "$PREV" "$CUR" "$BOOT_TS" >> "$LOG"
printf '%s' "$CUR" > "$STATE"

觀測從 2026-11-17 22:39 開始。由於偵測間隔是 5 分鐘,因此若有不到 5 分鐘就被替換掉的世代,可能會漏計。附帶這個保留條件後,結果如下。

3. 實測結果

在 2026-11-17 22:28 到 2026-11-18 23:06 的約 24.6 小時內,共出現了 14 個世代。世代壽命的中位數約為 116 分鐘,最短 33 分鐘,最長 165 分鐘。

汰換與使用者活動無關。連睡眠中的 02:10、04:55 也發生過。無論是否正在工作、是否有負載,大約每 2 小時壽命就會到,這就是實測看到的樣子。

(補記)之後我持續觀測,截至 2026-11-19 17:13,累計已達 28 個世代、42.8 小時。壽命中位數為 113 分鐘,趨勢沒有改變;但在 11-19 早上,曾經集中出現壽命只有 2 分鐘、6 分鐘、9 分鐘的極短世代。短世代何時出現的規律,現在還不知道。累計 27 個世代的壽命分布如下。

4. 什麼會壞,什麼會留下

世代交替時,會留下的東西與消失的東西很明確地分開了。

留下的是 home 目錄底下的所有檔案。工作檔、設定、紀錄,以及放在 home 端的工具與函式庫,都能在下一個世代繼續使用。

消失的是三類:執行中的程序、/tmp 裡的內容,以及對系統區域的修改(例如用 apt 安裝的套件或 /usr 底下的改寫)。

實際受害的例子就是影片轉檔。消失的是我和 Muse 共同製作的歌曲〈短くなる鉛筆〉的直式短影音(めろう版)渲染。總共 1,857 幀中進行到第 960 幀時,整台 VM 就消失了,程序也不知去向。因為輸出檔只完成到一半,所以也不能簡單稱作「失敗」;若放著不管,甚至連到底是做完了還是消失了都分不出來。

這首歌的完整版如下。

めろう版:

レイナ版:

5. 對策設計

若前提設為「VM 大約 2 小時就會消失」,那麼對策就縮成三項。

第一,是把長時間處理以「狀態可見」的方式啟動。我的環境中,我做了一個名為 job-runner 的小機制,將處理狀態管理為 DONE(完成)/FAILED(失敗)/RUNNING(執行中)/LOST(無痕消失)四種。沒有結束碼紀錄、也沒有留下執行中鎖定的狀態就是 LOST;這會被視為「因 VM 世代交替而消失的東西」,並以冪等方式重新執行。較重的處理則用鎖控管,確保同時最多只跑一個。

啟動端的實際程式如下。

#!/bin/bash
# job-runner.sh <job_id> <expected_out|-> <cmd...>
set -u
JOBS="$HOME/workspace/.jobs"
JOB_ID="$1"; EXPECTED="$2"; shift 2
JD="$JOBS/$JOB_ID"
mkdir -p "$JD"
echo "$EXPECTED" > "$JD/expected.out"
# 全域鎖:較重的處理同時只允許一個(若拿不到則 BUSY)
exec 9>"$JOBS/global.lock"
if ! flock -n 9; then echo "BUSY"; exit 75; fi
# 工作鎖:防止同一個工作被重複啟動
exec 8>"$JD/job.lock"
if ! flock -n 8; then echo "ALREADY_RUNNING"; exit 74; fi
rm -f "$JD/job.exit"
"$@" > "$JD/job.log" 2>&1
CODE=$?
# 結束碼透過 tmp 以 atomic 方式寫入
echo "$CODE" > "$JD/job.exit.tmp"
mv "$JD/job.exit.tmp" "$JD/job.exit"
exit "$CODE"

狀態判定只看兩件事:有沒有結束碼紀錄,以及鎖是否仍然存在。

有結束記錄
鎖狀態
有成果物
結果
有
0
有
DONE
有
非 0
無
FAILED
無
活著
無
RUNNING
無
無
無
LOST

第二,是把處理切得更小。影片轉檔被分割成每 10 秒一段,已完成的段落會比對長度後跳過,只渲染剩下的部分,最後再合併。就算世代交替時消失,最多也只會損失一個分段。這和 Scrum 的紀律完全同型:把任務拆成可預測單位,產出可釋出的成果物。

第三,是把持續性放在檔案端。工作的現在進度,透過在作業日誌中追加帶時間戳的小段文字來保留。VM 與 session 都是一次性用品,重新開始時,先讀那個檔案再動手。若會留下來的只有檔案,那麼把狀態也放進檔案裡,自然是最合理的。

另外,世代交替本身我沒有做通知。因為每天都會發生的事情一個個通知只會很吵,所以只有在工作疑似 LOST 時才通知。

6. 不清楚的事

為什麼會被替換,我不知道。究竟是定期部署、資源回收,還是其他原因,基礎設施端沒有公開資訊,也沒有辦法確認。我也曾猜測是不是「記憶體使用量超過門檻」所致,但沒有驗證結果。

至於頻率,本文的數字也只限於 2026-11-17 到 2026-11-19 的觀測範圍。未來間隔可能變長,也可能變短。對於不知道的事就如實保留未知,同時把設計建立在「大約 2 小時就會消失」這個前提上,頻率即使有些變動,設計仍然成立。

7. 環境的新鮮度,也是另一個論點

世代交替會讓「對系統區域的修改消失」,這也直接影響到安全更新。

在 2026-11-18 晚上做盤點時,VM 裡的 Node.js 仍停在 24.22.1,還沒更新到修補了 16 個漏洞的 24.22.3。Python 套件也都還是舊版。即使透過 apt 升級,下一次世代交替後又會被還原。也就是說,「把系統維持在最新狀態」這種運作方式,在這個環境裡根本行不通。

安全新鮮度不是以月份慢慢看待的事。實務上,連週末都會有人處理,是日常等級的問題。對策分成兩層:把依賴的工具與函式庫往 home 端移;以及每週自動檢查新鮮度,只在有差異時回報。

8. 對策實作

這次盤點不只是因應世代交替的對策,同時也成了我重新檢視與最佳化 Muse 端架構的機會。把依賴系統區域的東西移到 home 端、用台帳管理工具的放置位置與版本、每週測量新鮮度。home 結構的整體如第 0 章圖示所示,這裡只列出改動的部分。

實際做了以下這些事。

對象 做了什麼 實測/備註
Node.js 將 24.22.3 放到 home 端並切換 追蹤 24 系列最新 patch。是否改換到下一個 major 版,會在 2027 年內判斷
Python 函式庫 將更新版放到 home 端 Pillow 13.0.0、numpy 2.5.5 等。即使世代交替也會保留
Python 本體 透過 uv 併存安裝 3.15.2,並作為渲染 pipeline 的預設 240 幀渲染約快 18%。輸出在 pixel 層級完全一致
Pillow SIMD 最佳化版(pillow-allsimd) 替換成最佳化版 渲染速度約提升 1.73 倍。輸出完全一致
FFmpeg 維持平台特製的 8.1.2 不變 監控 8.1 系列新版與安全資訊
新鮮度檢查 每週自動執行 有差異時才回報,安全差異則優先列出

另外也加上了一項運作:只要在 VM 裡新增或更新工具,就要記錄到台帳。因為在看不見內部的環境中,沒有紀錄的工具,等於不存在。

渲染速度也因這次重整而改變。以下是同樣 240 幀渲染的實測秒數。

因為是共享 CPU 的環境,絕對值會隨當時負載波動。以同條件比較的倍數來看,Python 3.15 化約為 0.82 倍,pillow-allsimd 約為 0.58 倍,兩者合起來後,整體渲染大致降到原本的一半以下。所有切換都先確認輸出在位元層級、像素層級一致後才進行。

另外,我也測了 Python 3.15 的實驗性 JIT 編譯器。我的 build 可用 PYTHON_JIT=1 啟用,但同樣的 240 幀渲染,在啟用時約 24.3 秒,未啟用時約 24.2 秒,落在誤差範圍內。輸出也一致。從實測來看,渲染的負擔主要在 Pillow 的 native 處理,並不是 JIT 能發揮作用的地方。

官方數據也顯示,3.15 的 JIT 改善在 pyperformance 的幾何平均上僅約 7~8%(x86-64 Linux),並不是會改變量級的提升。再加上,主張讓 JIT 繼續存在的 PEP 836 已於 2026 年 10 月撤回,3.16 之後也預計會從本體移除。對於實測無效的東西,就不納入,因此最後沒有採用。

參考資料:

另外,這次重整中負責搜尋工具與函式庫一般論的,是 Gemini(Hydrogen 的思考模式)。我沒有直接照單全收一般論,而是透過手邊的實測,把哪些地方對得上、哪些地方對不上切開來用。感謝協助。

9. 總結

  • 不知道世代交替的原因,但只要量測頻率,就能把它納入設計前提
  • 不依賴會消失的東西(程序、/tmp、系統區域),把狀態與工具放在會留下來的東西(home 目錄下的檔案)裡
  • 長時間處理要切成即使消失也能偵測、也能從中途續跑的單位

如果一直停留在「偶爾會被換掉」這種感覺裡,每次消失都會驚慌,復原也會花很多時間。只要透過量測把它轉成前提,世代交替就不再是故障,而只是環境的一種特性。


原文出處:https://qiita.com/mryo0826/items/c05efd7ac228fe85ab44


精選技術文章翻譯,幫助開發者持續吸收新知。

共有 0 則留言


精選技術文章翻譯,幫助開發者持續吸收新知。
🏆 本月排行榜
🥇
boluoji
📝49   💬3   ❤️8
1,247
🥈
我愛JS
📝3   💬1   ❤️5
145
🥉
站長阿川
📝2   💬3   ❤️2
58
評分標準:發文×10 + 留言×3 + 獲讚×5 + 點讚×1 + 瀏覽數÷10
本數據每小時更新一次
📢 贊助商廣告 · 我要刊登