🔧 阿川の電商水電行
Shopify 顧問、維護與客製化
💡
小任務 / 單次支援方案
單次處理 Shopify 修正/微調
⭐️
維護方案
每月 Shopify 技術支援 + 小修改 + 諮詢
🚀
專案建置
Shopify 功能導入、培訓 + 分階段交付

在 All-In 播客節目(第 261 期)中,Jason Calacanis 透露,他的 AI 代理商每天每個成本 300 美元,而且只使用了 10-20% 的容量。

Chamath Palihapitiya 現在問他的團隊:“我們最好的開發人員的代幣預算是多少?”

這些都是經驗豐富的科技投資者。他們多年來一直在投資人工智慧公司。而他們現在才開始認真計算收益。

這並不奇怪。問題就出在這裡。

補貼的幻覺

人工智慧提供者需要用戶廣泛使用。因此,他們提供補貼——面向消費者的套餐價格低廉,旨在吸引用戶,企業級套餐價格低廉以鎖定客戶,免費套餐則慷慨到足以培養用戶習慣。

成功了。開發人員整合了資源。公司建構了流程。工程部門圍繞著人工智慧成本低廉的假設進行了重組。

現在補貼即將結束。個人支付的費用與執行這些模型的實際成本之間的差距正在縮小。那些基於補貼價格做出不可逆轉的招聘決定的公司發現,無論員工是否在做任何有用的工作,費用都會照常計算。

卡拉卡尼斯發現的不是漏洞,而是商業模式。

成本倒置

人類工程師靠咖啡維持運作。無需提醒就能記住三年前的背景資訊。累積的機構知識會隨著時間而不斷增值。無論他們解決的是難題還是簡單問題,他們的成本都一樣。

智能體思考的時間越長,消耗的成本就越高。每一次驗證循環、每一次為不必要的任務產生的子智能體、每一次冗餘的研究過程——都會消耗代幣。計量器並不關心這些思考是否有必要。

這是沒人建模過的反轉。人力成本是固定且可預測的。而代理成本則隨著複雜性、不確定性以及過去那種需要支付高薪的開放式問題而增加。

那些解僱工程師並用代理商取而代之的公司,並非僅僅出於人才考慮。他們放棄了可預測的成本結構,轉而選擇了指數級成長的成本結構。與那些可能在公司困境中堅守崗位、為了幫助公司渡過難關而接受降薪、或者因為關心公司而周末加班的員工不同,代理商的API賬單每月初都會如期而至,這是無法避免的。

你可以與人談判,但你不能與終點談判。

問題本身就能回答

Chamath Palihapitiya 向他的團隊問道:“我們最好的開發人員的代幣預算是多少?”

稍作思考。

他問的不是普通的開發人員,也不是初級開發人員,而是他最優秀的開發人員。那些即使收費高昂,他們的判斷力也值得付費的開發人員。

只有當你已經知道下方問題的答案時,這個問題才有意義:哪些開發人員值得付費?

API 之下的部分則不然。樣板程式碼、基本的 CRUD 操作、簡單函數的單元測試——AI 能以更低的成本完成這些工作。這不再是爭議點,市場已經做出了決定。

(我在 《API之上》一書中詳細闡述了這種劃分——簡而言之:API之下是人工智慧能夠更便宜、更快速處理的所有內容,API之上是人工智慧無法取得的、需要判斷和上下文資訊的所有內容。)

API 之上的那些才是關鍵所在。系統設計、除錯意料之外的競態條件、了解在特定情況下哪些權衡取捨至關重要、在災難降臨生產環境之前預見其發生,這些都需要判斷力,而這種判斷力不會隨著上下文時間的延長而降低,也不會為了驗證已知訊息而啟動子代理。

無論查馬斯是否了解框架,他都在進行「高於/低於」的計算。人工智慧輔助開發人員需要提高一倍的生產力才能證明其成本合理——但究竟是哪方面的兩倍呢?不是在程式碼生成方面,而是在判斷方面。是在即使人工智慧全力運作也無法可靠完成的工作方面。

在第一輪預算削減中倖存下來的開發者並非最優秀的提示者,而是那些他們的想法才配得上那點預算的人。

記憶問題

代理人不會記得你三年前做出那個決定的原因。他們不知道同樣的方法在2022年導致生產環境中的資料庫崩潰。他們沒有那種能阻止經驗豐富的工程師重蹈覆轍、犯下代價高昂錯誤的製度性教訓。

每次會議都從零開始。你可以提供一些背景資訊——文件、架構決策記錄、以往的複盤報告——但前提是這些資訊必須有書面記錄。大多數機構知識從未被記錄下來,而是存在於當時在場人員的腦海中。

這是模型中無人承擔的成本。人工工程師前期投入成本高,但長期來看成本更低──他們累積經驗、建立人脈、對你的特定係統形成直覺。而智能體前期投入成本低,但長期來看成本高——每次會話都需要重新調整方向,每個假設都需要重新驗證,每條不成文的規則都需要重新摸索。

那些最先用代理人取代工程師的公司,也最先摧毀了自身的機構記憶。這並非出於惡意,而只是出於數學原理──如果沒有人,知識就不復存在。

哈里森·蔡斯直言不諱地指出:在人工智慧代理中,決策是在執行時做出的。痕跡成為真理的來源。但痕跡只能記錄發生了什麼,卻無法記錄六個月前由一位已離職人員做出的決策背後的原因。

這個差距正是年收入10萬美元的經紀人能否物有所值的關鍵。而目前來看,他們中的大多數人都無法做到這一點。

這項法案的真正用途是什麼?

最終生存下來的公司,並非那些裁員速度最快的公司,而是那些能夠分辨出哪些工程師真正值得留任的公司。

這不是技術問題,而是判斷問題。

人工智慧並沒有改變優秀工程的定義,反而改變了糟糕工程的成本。樣品程式碼的價值非常很低——只是過去它們被隱藏在支付其他費用的薪資之中。智能體讓成本計算變得透明。現在,你可以清楚地看到你付錢的具體內容,以及這些費用是否物有所值。

真正值得留住的開發者並非那些能提供更好提示的人,而是那些記得2022年決策緣由、能在競態條件進入生產環境前將其解決、了解在你的具體情況下哪些權衡取捨至關重要,以及哪些權衡取捨是代理程序注定會犯錯的人。

Chamath提出的問題——為我們最優秀的開發者分配代幣預算——是正確的問題。只是他問得有點晚了。在重組之前提出這個問題的公司,現在仍然有能夠回答這個問題的人。

那些沒有這樣做的人,他們的經紀人只發揮了 10-20% 的潛力,每年為每個經紀人支付 10 萬美元,卻不明白為什麼帳單一直不斷。

電錶一直在走,只是他們以前沒注意到而已。


原文出處:https://dev.to/dannwaneri/the-meter-was-always-running-44c4


精選技術文章翻譯,幫助開發者持續吸收新知。

共有 0 則留言


精選技術文章翻譯,幫助開發者持續吸收新知。
🏆 本月排行榜
🥇
站長阿川
📝22  
610
🥈
我愛JS
💬2  
7
評分標準:發文×10 + 留言×3 + 獲讚×5 + 點讚×1 + 瀏覽數÷10
本數據每小時更新一次
🔧 阿川の電商水電行
Shopify 顧問、維護與客製化
💡
小任務 / 單次支援方案
單次處理 Shopify 修正/微調
⭐️
維護方案
每月 Shopify 技術支援 + 小修改 + 諮詢
🚀
專案建置
Shopify 功能導入、培訓 + 分階段交付