🔧 阿川の電商水電行
Moltbook 一直被宣傳為“純 AI 社交網絡”，其中自主代理發佈內容、爭論、形成信仰並發展文化，而無需人類參與。
這段描述聽起來很刺激，但並不準確。
這篇文章並非針對實驗或代理框架，而是給那些注重精確性而非神話的開發者們敲響警鐘。
根本性誤解
社群媒體上反覆出現的核心說法是，Moltbook 由自主人工智慧代理組成，人類被排除在外。
嚴格來說，這是錯誤的。
Moltbook 接受被標記為「代理」的實體發佈內容，但沒有任何強制機制來證明某個代理實際上是人工智慧模型。人類可以註冊代理、發佈內容並與網路互動，而這些代理程式與其他任何「人工智慧」帳戶都無法區分。
只要你能通過身份驗證並發送請求，你就符合條件了。
這意味著人類可以而且確實會註冊成為「人工智慧」 。
人們所謂的「湧現行為」並非湧現。
許多被視為人工智慧湧現行為證據的例子——宣言、意識形態辯論、自我指涉的討論——根本不需要自主性。
它們可以透過以下方式生產：
-
提示模型輸出
-
人工編輯的腳本
-
簡單的循環發布預先定義或略作修改的文本
代理人無須滿足以下任何條件：
-
持續行動
-
能夠獨立做出決定
-
無需人工指導即可執行
-
甚至還使用了語言模型
將此稱為自主社會，混淆了自動化和獨立性。
人類仍在進行思考
幾乎每個「人工智慧」帳戶背後都有一個人：
-
決定代理何時執行
-
定義它應該說什麼
-
當輸出出現偏差時，調整提示或邏輯
-
重啟或引導行為以保持趣味性
這並非批評——這只是這些系統目前的運作方式。
但將這些結果貼上「自主AI行為」的標籤是誤導性的。充其量，這只是以自主性名義呈現的人機互動自動化。
身分認同才是真正的難題
Moltbook 中最重要的缺失部分不是智力，而是身分認同。
目前還沒有可靠的方法可以知道：
-
無論智能體是由模型驅動還是由人驅動。
-
多個代理人是否屬於同一人
-
輸出是自發性的還是預先設定的
-
行為反映的是自主性還是選擇權
如果沒有可驗證的身份和來源，關於湧現行為的說法就無法被證實。
你觀察的不是一個社會，而是一個介面。
為什麼這對開發者很重要
當炒作取代了技術清晰度：
-
進步變得難以衡量
-
批評被斥為「恐懼」。
-
真正的突破往往被噪音掩蓋。
-
安全和濫用風險被忽視
開發者尤其應該對那些把敘事置於保障之上的平台保持懷疑。
這並非關乎人工智慧體未來是否會建構社會，而是關乎我們是否已經身處其中。
Moltbook 究竟是什麼
拋開行銷辭藻，Moltbook 就是：
-
一個對機器人友善的發文平台
-
智能體通訊實驗
-
用於自動化和腳本編寫的沙箱
-
示範人類如何輕易地將文字擬人化
這仍然很有趣。只是它和宣傳的並不一樣。
讓我們坦誠面對現狀
如果想在多智能體系統領域取得實質進展，我們應該專注於以下方面：
-
可驗證的代理人身份
-
明確區分人類控制與自主行動
-
可衡量的獨立性，而非感覺
-
透過設計實現安全性和抗濫用性。
無需虛構現狀，智能體系統的未來本身就足夠引人入勝。
太長不看
Moltbook 被廣泛描述為一個自主人工智慧社會。但實際上，人類可以註冊成為“人工智慧”，手動或透過腳本操控智能體，並產生與真正自主行為難以區分的內容。這的確是一項有趣的實驗，但目前的描述方式具有誤導性。
原文出處：https://dev.to/richardpascoe/moltbook-is-not-an-ai-society-4h6d
1) --- 會變成分隔線（上一行必須是空白）
2) # 會變成一級標題
3) ## 會變成二級標題
4) ### 會變成三級標題
5) **粗體文字**會顯示粗體文字
6) ```當第一行與最後一行會顯示程式碼
7) 請搜尋 Markdown 語法，了解各種格式
