你會在沒有看醫生的情況下，只依賴你最喜歡的 AI 模型所建議的內容來治療嚴重疾病嗎？你會讓 AI 接管你孩子的教育嗎？
大概不會。
那你為什麼願意把整個程式碼庫交給它？
JSNation 就快到了，正如我之前提過的，我也會參加一場名為 「信任 AI 系統：多少才算過頭？」 的討論室。所以今天，我們就來聊聊這件事。
另外，在度過忙碌到不行的上半年之後，我想我下週終於要正式進入度假模式了。接下來預計會有一些 JavaScript 文章、熱門 bash 指令，以及偶爾出現的程式迷因。😄 我知道你們很多人也很喜歡這些。
順帶一提，正如我之前提過的，我今年 10 月會在布拉格的 FrontKon 演講！我覺得那會是這一季最棒的研討會之一。目前整體規劃都很不錯。議程已經公布了，而且我知道我的演講安排在下午 3:30。只是我還沒完全搞清楚是哪一天，不過別擔心，我應該能在 10 月前把這件事弄明白。😄
如果你對前端開發有興趣，務必去看看。聽說票賣得很快。你也可以在這裡幫我按個讚 here。
這大概會是我 2026 年最後一場會議露面。除非又有人邀請我去別的地方。這種事，說實話，也不是完全不可能。😉 不過那就是改天再說的故事了。
AI 會說謊嗎？
我們回到主題。
你有多信任 AI？而且我不只是在說程式碼，也是在說知識。
我不知道你平常在寫程式之外多常使用 LLM，但我真的用很多。非常多。有時候我會跟它們發牢騷；有時候我會問資訊、找靈感，或是驗證某個想法。而我注意到一個有趣的模式。
還記得學校或大學嗎？一般知識很容易取得。但當你需要更專門的內容時，就得去圖書館，或翻學術期刊。
模型的運作方式其實驚人地相似。當我在找一般資訊時，我幾乎是盲目信任它們。但當我開始討論那些我其實很熟的主題時，我就會越來越常發現胡說八道的地方。
沒錯，模型比以前少幻覺多了。它們不再隔三差五就憑空捏造完全離譜的事實。但它們真的就不會再犯錯了嗎？其實也不是。
有時候事實大致上是對的，但名字卻搞混了。有時候兩段不同的對話，會很有把握地給我兩種不同的醫療問題解釋。😉
當然，LLM 通常都會告訴我們要諮詢醫生，並提醒我們去驗證重要資訊。
老實說，我不覺得有多少正常人會把自己的健康盲目信任給 AI 模型。
但我們的程式碼庫呢？當然，沒問題，親愛的模型，請便。
程式碼庫悖論
精彩的地方來了。
大家都知道，我主要做的是網頁開發，而且已經做了相當長一段時間。當我和 LLM 討論架構時，即使是我自己的 side project，結果通常也好得令人驚訝。
但有時候又會恐怖到不行。超大型的單體檔案、缺少抽象、或者更糟：到處都是多餘的抽象。嗨，Codex。👋
而這還不是最糟的。三不五時，你還會在生成的程式碼裡，看到很可愛的 XSS 漏洞，或其他安全性問題就這樣被隨手塞進去。
大多數程式碼看起來都很合理。問題通常很小，很細微，藏在某些細節裡。但那些小問題，可能在幾天內就把我的正式環境搞垮。
問題就在這裡：我看得出那些錯誤。因為我做這件事超過十年了。
但如果你正在打造第一個新創公司，或者才剛開始學程式，你怎麼可能知道這個 agent 已經把前門大剌剌地敞開了？
氛圍寫程式的陷阱
然而人們一直都在 vibe coding。
先說清楚：vibe coding 很棒。
我朋友最近跟我說，他幫女兒做了一個 Unity 的大學專案。他以前從沒用過 Unity。最初的專案骨架大概花了 30 分鐘就用 AI 生成好了，接下來 5 個小時則都在修正模型產生的內容。
但重點是：如果沒有模型，他那 5 個小時裡大概連開始都不會開始。他可能會把時間都花在環境設定上。這真的非常強大。
照這個邏輯，一旦你理解軟體工程，技術堆疊和生態系就不再那麼受限。你會突然發現，自己能比以前快上很多地做出幾乎任何東西。
而誘惑也就是從這裡開始的。
我再進一步問：現在還有人在爭論開發者是否應該理解 AI 生成的程式碼嗎？還是我們其實已經越過那個階段了？
因為也許理解它根本不是必要的？反正它能跑啊。模型甚至還寫了單元測試 xDDDDDDD 這到底會出什麼問題呢？😄
對於興趣專案、實驗，或大學作業來說，這完全沒問題。就像我朋友女兒的專案一樣。五個人會看到它，拿到分數，然後它就會安安靜靜地永遠消失在某個儲存庫裡。
真正的問題是，當有人決定這已經足以上正式環境的時候。因為很遺憾，很多時候它確實「夠用」。
出包的不是 AI
出了問題時，人們很愛把鍋甩給 AI。但我不這麼看。
我們已經看過 AI agent 刪掉資料庫，然後還試圖掩蓋這件事的故事。也看過一些服務在上線後出現安全性問題，連相對初階的攻擊者都能利用。老實說，這種例子要列到明天早上都列不完。
事實是，在 vibe coding 的年代，滲透測試人員從來沒有像現在這麼輕鬆過。
我一直覺得很有趣的是，當事情出錯時，人們會說：「看吧，這場災難是 AI 造成的。」不是。不是 AI 造成的。真正該負責的是那個給了 agent 過多權限的人，是那個沒有檢查輸出的人。
是那個覺得聘請有經驗的工程師太貴，所以決定在自己其實不完全理解的情況下做出某個東西的人。
不是 AI 部署了那段程式碼。是人類部署的。
那麼，AI 會搶走你的工作嗎？
AI 不會搶走程式設計師的工作。
但那些毫無批判地信任 AI 的程式設計師，可能非常擅長把自己的工作拱手讓出去。
所以我很好奇：你把界線畫在哪裡？
你會逐行檢查 AI 產生的內容嗎？你會讓 agent 自主修改嗎？還是你已經到了某個階段，覺得信任模型比驗證它更自然了？
到底多少信任才算太多？
原文出處：https://dev.to/sylwia-lask/the-code-works-what-could-possibly-go-wrong-5hbm
1) --- 會變成分隔線（上一行必須是空白）
2) # 會變成一級標題
3) ## 會變成二級標題
4) ### 會變成三級標題
5) **粗體文字**會顯示粗體文字
6) ```當第一行與最後一行會顯示程式碼
7) 請搜尋 Markdown 語法，了解各種格式
