如題。
這真的不是在開玩笑。
這也是最近不少公司,在大力、甚至全面擁抱 AI 之後所發出的真實吐槽。
一個月前,Uber 的 CTO 曾對外透露,公司自部署 CC 以來,內部有超過 9 成的工程師在高頻率使用。
但是,AI 使用率驚人的同時,產生的費用帳單也相當驚人。
據 CTO 透露,Uber 原本準備覆蓋 2026 年整年的 AI 費用預算,僅在今年前 4 個月,就已經被燒得一乾二淨。
平均下來,單個員工的 AI 月均使用費用高達 500~2000 美元。
不只如此,NVIDIA 深度學習部門副總裁最近在接受採訪時也透露,對他們團隊來說,如今的算力成本已經遠遠超過員工成本了。
不是……咱就是說……這可是從一家專門賣算力的硬體公司高層嘴裡說出來的話。
不僅如此,我在逛論壇時也看到了不少團隊 token 帳單爆表、AI 預算失控、ROI 入不敷出的案例。
乍一聽,這事是不是有點反常識?
要知道,在過去的幾十年裡,軟體產業的邊際成本幾乎趨近於零,我們早已習慣數位產品越用越便宜的邏輯和直覺。
但是來到 AI 時代,事情似乎並不是這樣了,算力消耗呈現出截然不同的經濟特徵,它更像是一種高消耗的工業科技原料,而非可無限複製的程式碼副本。
為什麼會這樣?
有人說 token 本來就貴,尤其頂尖模型和工具的成本更高,沒辦法的事情,而且現代 AI 的工作方式也決定了其極高的 token 消耗量。
因為隨著 Agent 的普及,AI 早已不再是一問一答的簡單工具,而是變成能自主拆解任務、循環進行深度推理、反覆呼叫工具,並且能持續自我修正的動態系統了,這種無限循環的工作模式使 token 消耗呈指數級增長,遠超普通認知下的線性預估。
而落實到具體使用層面,我倒是覺得首先要搞明白的一件事就是,你得分辨你的 token 到底燒在哪了,是燒在低效的刷量和冗餘的人力疊加上,還是燒在真正能重塑價值的刀刃上。
這不禁讓我想起前段時間的一則很搞笑的圈內新聞。
就是某些企業為了在 AI 浪潮中能快速、急切地證明自身的轉型決心,居然簡單粗暴地把 token 消耗量作為衡量員工擁抱 AI 程度的 KPI 指標,與之而來,也催生了所謂的 Tokenmaxxing 風潮……
搞什麼內部 AI token 使用排行榜、把 token 消耗納入績效考核、當成生產力指標,甚至是員工的身份標籤,額……恕我直言,這是不是多少有點草率了。
這和當年那種有公司把員工程式碼行數或程式碼提交量作為 KPI 考核指標的笑談行為又有何異?
像 Uber 的 CTO 在觀察他們團隊員工使用 AI 時,發現了一個現象,那就是同一個人用同一個工具、同一天的 token 消耗差異居然能高達十倍以上。
包括 Uber 的營運主管也表示,其內部的 token 消耗量與實際產品功能價值輸出之間似乎並沒有直接的相關性。
這些都說明了什麼問題,相信他們內部比誰都清楚。
因此這也就暴露出了一個問題。
許多公司或團隊目前雖然配備了最先進的大模型,但是在工作流程方式和管理層面卻依然沿用舊有的思維和模式,這種缺乏精準定位的粗放投入,其本質其實也是一種技術債的體現,用昂貴的算力成本去掩蓋既有的相容性問題。
所以如果從這個角度看,token 比人貴的現象,與其說是技術問題,不如說是 AI 轉型過程中的陣痛;總有一天,它會倒逼企業從單純導入工具,轉向真正改造流程。
燒 token 誰不會,誰能用更少的 token 完成更多有價值的任務,把 token 燒在刀刃上,可能才是未來許多公司和團隊需要考慮的事情。
只有當人機協作範式發生根本改變,讓每一分算力都精準用在不可替代的價值創造環節時,這筆帳才估計能真正算得過來。
而現階段,很多公司可能都很難做到。
註:本文已收錄於 GitHub 開源倉庫「程式之路」 github.com/rd2coding/R… 中,裡面有我整理的 6 大程式設計方向(職位)的自學路線+知識點總整理、面試考點、我的履歷、幾本硬核 PDF 筆記,以及工程師生活和感悟,歡迎 star。