🔧 阿川の電商水電行
人工智慧產業的發展速度比過去40年來我們所見過的任何技術浪潮都要快。
但速度並不是真正的問題。
真正的問題在於真相。
如今，人工智慧領域最有影響力的人物——創始人、影響者、風險投資家，甚至大型公司——越來越多地塑造出一些聽起來令人印象深刻的敘事……但這些敘事並沒有反映出系統、產品和組織內部實際發生的事情。
如果你是開發者、創辦人或技術專業人士，正在努力在這個領域發展，那麼這種「真相差距」會影響你建構、學習和相信的一切。
讓我來分析哪裡出了問題，以及我的看法。
1. 炒作的速度比現實的速度快
每週都會有新的模型問世：
-
“AGI水平”
-
“速度提升100倍”
-
“在所有方面都比人類更勝一籌”
但在實際應用中呢？
效能崩潰通常是因為：
-
資料與任務不符。
-
該系統並非為應對極端情況而設計。
-
團隊低估了營運的複雜性。
-
延遲、上下文視窗、合規性或成本等限制會破壞一切。
標竿卓越和生產卓越之間存在著巨大差異。
但基準測試能帶來點擊量。
生產結果並非如此。
2. 公司出售的是夢想，而不是限制
每個人工智慧產品演示都令人驚嘆。
但條款細則總是隱藏起來的：
-
“僅適用於精選資料集。”
-
“需要企業級GPU叢集。”
-
“需要大量人工幹預才能獲得穩定的輸出。”
-
“在不同領域通用性較差。”
該行業過於注重展示各種可能性，而不夠注重溝通界限。
如果不能公開討論局限性，專業人士就會做出糟糕的技術或商業決策。
3. 大多數人沒有意識到幕後有多少工作是人工完成的。
這是人工智慧新創公司不為人知的秘密。
許多標榜「全自動」的AI工作流程其實都存在著以下問題：
-
人工評估員
-
提示工程師監控輸出
-
手動備用系統
-
基於規則的過濾器
-
人工在交付前校對輸出結果
這不是欺騙，而是營運上的必要性。
但這一點很少被清晰地傳達出來。
透明度實際上會建立信任。
但炒作才是首要任務。
4. 所有人都把人工智慧當成一個神奇的盒子
問別人模型是如何運作的，你會聽到：
“神經網路能夠學習模式。”
或者
“它就像人腦一樣。”
不。
幕後的真相遠比這機械得多：
-
機率令牌預測
-
加權注意力機制
-
從人類回饋中進行強化學習
-
塑造行為的獎勵模型
-
微調循環
-
專用向量檢索系統
-
防護措施和基於規則的約束
但業內人士卻把所有問題都簡化成一句話：
“這很聰明。”
過於簡化會造成不切實際的期望。
5. 創辦人正在建構人工智慧工具，卻不了解技術棧。
我每天都能看到這種情況：
-
每個人都想創辦一家「人工智慧新創公司」。
-
但很少人明白這一點：
-
推斷成本
-
上下文視窗的權衡
-
延遲限制
-
檢索管道
-
限速
-
代幣洩漏
-
長期規模經濟學
-
LLM 行為在不同版本的變化
這導致創始人追逐他們無法持續服務的市場。
6. 敘事權掌握在那些什麼都不做的人手中
思想領袖暢談。
建築商測試。
操作員部署。
目前，網路上大多數高調的聲音並非來自以下族群：
-
訓練模型
-
建築基礎設施
-
大規模推理管理
-
設計檢索系統
-
部署生產流水線
聲音最大的人塑造文化。
最安靜的聲音塑造著科技。
這種不平衡加劇了真相差距。
7. 解決方案很簡單：徹底坦誠
這就是我的立場。
人工智慧不需要更多炒作。
人工智慧需要更清晰的解釋。
如果這個產業能夠公開分享資訊：
-
限制
-
故障模式
-
實際延遲資料
-
實際營運成本
-
真正的生產挑戰
-
人工智慧在哪些方面表現不佳？
-
仍然難以解決的問題
……生態系的運作速度會加快，而不是減慢。
因為明確的預期有助於做出更好的決策。
我的看法是這樣的
人工智慧產業並不缺乏創新。
它缺乏誠信。
未來十年最終獲勝的人，並非那些叫囂最響亮的人，而是那些：
-
清晰溝通
-
設定切合實際的期望
-
建構可信賴的系統
-
說真話，而不是隨波逐流
-
關注實際應用成果，而非虛幻的表象。
人工智慧不需要神秘感也能令人興奮。
只要透明，它就能發揮作用。
我是這麼看的。
下一篇文章
本系列的下一個主題是：
“風險投資家們都在押注人工智慧新創公司，但他們忽略了這一點。”
原文出處：https://dev.to/jaideepparashar/the-ai-industry-has-a-truth-problem-heres-how-i-see-it-1gb1
1) --- 會變成分隔線（上一行必須是空白）
2) # 會變成一級標題
3) ## 會變成二級標題
4) ### 會變成三級標題
5) **粗體文字**會顯示粗體文字
6) ```當第一行與最後一行會顯示程式碼
7) 請搜尋 Markdown 語法，了解各種格式
