每隔幾年,我們這個行業就會重新發現一個古老的真理,然後假裝它是新的。
編寫簡潔的程式碼。
微服務。
DevOps。
現在:迅速進行工程設計。
突然間,那些在 2019 年只發布過一個 CRUD 應用程式的人開始在推特上發布類似這樣的內容:
“The problem isn’t your system. It’s your prompts.”
不。
問題依然出在你的系統上。
及時的工程改進並非萬全之策。
這就像是用非常昂貴的創可貼來修補已經感染的建築傷口。
幻想
這個幻想是這樣的:
你的後端很混亂。
API 不一致
沒有真正的領域邊界
業務邏輯分散在控制器、定時任務和 Slack 訊息中
但是後來…
✨ 你加入了人工智慧 ✨
✨ 您完善了提示 ✨
✨ 在頂部加上「您是資深工程師」 ✨
神奇的是,智慧會像電流一樣流遍你的全身。
但軟體的工作原理並非如此。
事情並非如此運作。
現實檢驗:人工智慧正在進入你的系統
LLMs看不到你的產品。
它看到:
你記得要傳遞的 JSON 資料
任何符合令牌視窗的上下文
凌晨兩點有人增加了一個半成品方案。
所以,當你的 AI 「做出錯誤決定」時,它通常是在執行你要求它執行的操作——在一個有缺陷的抽象層中。
那不是幻覺。
這就是服從。
及時的工程設計與結構問題
讓我們坦誠地談談這些提示究竟是為了隱藏什麼:
❌ 缺少域邊界
請仔細推斷使用者的意圖。
❌ 資料模型不一致
“如果缺少字段,請自行判斷。”
❌ 無真實性來源
“如果多個價值觀相互衝突,請選擇最合理的那個。”
❌ 五個地方的業務邏輯
“請遵守公司政策(詳見下文800字)。”
這不是人工智慧。
這是將架構決策外包給自動完成功能。
分散式系統笑話(其實不是笑話)
當你建立人工智慧代理時,你會很快發現一些令人不舒服的事情:
AI agents are just distributed systems that can talk back.
他們擁有:
(你假裝是無國家的)
延遲(你忽略的)
日誌無法解釋的故障模式
副作用(發生兩次)
所以當你的經紀人:
對用戶重複收費
錯誤地重試操作
或自信地做了錯事
那並不是「人工智慧不可預測」。
這是典型的分散式系統行為,現在用自然語言來描述。
“但我們有護欄”
大家都這麼說。
護欄很好。
安全帶也是如此。
但安全帶並不能解決問題:
方向盤不見了
一個由 YAML 建構的引擎
或者說,是由感覺決定的路線圖。
如今大多數護欄都只是:
更多提示
更多條件
“如果不確定,請詢問用戶”
在某些時候,你並非在建構一個系統。
你正在和它談判。
不受歡迎的真相
人工智慧並不能取代建築設計。
它會放大這種現象。
優秀的建築設計:
人工智慧很無聊
可預測的
可靠的
糟糕的建築設計:
讓人工智慧看起來像魔法一樣
生產
直到規模
直到成本
直到用戶做出真正的行動
這就是為什麼人工智慧演示看起來很棒,而人工智慧產品卻感覺……很脆弱的原因。
為什麼這種事總是會發生?
因為快速工程是:
快速地
可見的
可發推文
建築是:
慢的
無形的
只有當它失效時才會被注意到。
因此,我們針對提示進行了最佳化。
我們無視界線。
我們在熵之上建構「智能」。
然後我們就把責任推給模型。
高級開發人員的觀點
如果您的AI系統需要:
一個包含 2000 個令牌的提示,用於解釋業務規則
不斷嘗試“做到最好”
每個重要決策都要經過人工審核
你沒有人工智慧方面的問題。
你現在遇到一個會說英語的架構問題。
最後想說
及時的工程改進並不能解決你的架構問題。
但這會揭露真相。
高聲。
生產中。
充滿信心。
說實話?
這或許是人工智慧迄今為止為我們做的最有用的事情了。 😎
原文出處:https://dev.to/art_light/prompt-engineering-wont-fix-your-architecture-23h