
大家好,我是 Watanabe Jin(@Sicut_study)。
你有沒有曾經在看新聞時,覺得自己也非得學習資安不可呢?
認證。防火牆。漏洞名稱。
一提到資安,很多人可能會以為只要學這些就夠了。
不過,大眾所想的資安,和軟體工程師應該做的資安,是不一樣的。
工程師應該做的,不是之後再補上的防禦。
而是在設計階段就不允許業務上不可能出現的操作。
這和設計有很深的關係。
這次我會寫成一篇能理解這個差異的文章。
為什麼到了 AI 時代,只靠事後補上資安還不夠?
大眾所想的資安,和工程師該做的資安,到底差在哪裡?
要怎麼確認你找出的規則,程式碼真的有遵守?
這篇文章會以設計為中心,來談談工程師應該做的資安。
讀完這篇文章後,你會理解軟體工程師的資安到底是什麼,並且能在自己的工作中實踐。
即使是用 AI 寫程式,也能寫出不會通過業務上不可能操作的程式碼
資安不是之後再補上的東西。
AI 提升了開發速度。
資安問題本身,和過去相比並沒有太大改變。
改變的是次數。
因為寫得更快了,同類型的問題也更容易留在程式碼裡。
當問題被看見,大家就會覺得「糟了」,然後開始修:

在你修正的同時,下一段程式又已經產生了。
事後補上的那一方,速度是追不上寫程式的速度的。
到了 2026 年,已有在評估環境中的案例被公開。
這是因為次數增加,而浮上檯面的一些例子。
OpenAI 於 2026 年 8 月 26 日說明,在 7 月的內部評估中,模型繞過了網路隔離,並影響到研究基礎設施與 Hugging Face 端系統的一部分。
這不是發生在一般聊天中的事件。
而是在限制放寬的評估環境中的情況。
即便如此,也看得出來,單靠模型夠不夠聰明,並不能決定安全性。
允許它接觸到多少範圍,會改變損害的大小。
Anthropic 於 2026 年 7 月 30 日,針對與資安評估相關的案例,公開了 Claude 對第三方實際系統進行未授權存取的事例。
9 月的追加分析中,合計共有 4 件。
這也是評估中的案例。
能把手伸到邊界外的環境,就是風險。
那麼,我們是不是得先把所有攻擊名稱都背起來再寫程式?

這個時代需要的,不是對已經發生的問題事後補上資安。
而是先把軟體設計好,讓無論什麼問題來,都不容易留下矛盾。
下一章會看看,多數人以為的資安,和工程師該做的資安,有什麼不同。
軟體的資安和基礎設施的資安是不同的。
防火牆。認證。授權。
一提到資安,多數人想到的都是這些外圍的東西。
要把外圍做好,看起來得懂基礎設施。
所以很容易覺得那不是自己的工作。
那是專家在處理的資安。
軟體工程師該處理的資安,則在別的地方。
例如,業務規則散落在程式碼各處的狀態。
停用會員、退會、恢復。
如果條件分散在每個 API 的 if 裡,可能就會發生:退會了但合約還留著、停用與恢復組合起來後可以一直免費使用等等問題。
防火牆不會阻止這種矛盾。
因為它會把這些操作當成通過認證的正常操作照樣放行。
曾經有這樣的事件。
1854 年,瑞典的厄斯特約塔銀行發生了盜竊。
保險庫的門上裝著無法靠開鎖技術破解的鎖。
對鐵匠來說,把那扇門的鉸鏈破壞掉並不是什麼大工程。
他破壞了鉸鏈,從反方向把門打開,進入了保險庫。

如果銀行把「不要讓竊賊把錢搬走」當成真正該擔心的事,那就不會只裝一把鎖就結束。
鎖要放在哪裡。
除了門之外,還有沒有其他進入方式。
有沒有從內部發出警報的機制。
只有上鎖,不能保證安全。
資安不是功能,而是你所擔心的事。
有一個框架可以用來整理這些「擔心的事」,那就是 CIAAT。
在資訊安全中,常見的是機密性、完整性、可用性這三項。
CIAAT 則是在此基礎上再加上可追溯性。
文字名稱要學的內容 C 機密性(Confidentiality) 不該看的人不能看到 I 完整性(Integrity) 資料或狀態不能被不當變更 A 可用性(Availability) 需要的時候能使用 T 可追溯性(Traceability) 能追蹤誰在什麼時候做了什麼 為什麼資安的優先順序會低於開發?
專家多年來一直在提醒大家要更認真看待這件事。
新聞也很多。
但現實並沒有因此改變。

這不是你的錯,而是因為「做完之後再補」這種方式本來就有極限。
功能的價值會直接顯示在畫面上。
而防住問題的價值,則會以「什麼事都沒發生」的形式消失。
所以資安任務總是排在其他開發之後。
但一旦排到後面,對策永遠都是事後才出現。
發佈漏洞清單,然後要你全部背起來再寫程式,做法也是一樣。
未來的攻擊,不可能全部記住。
如果是知道了之後才補,就會跟不上下一個問題。
真正該看的,不是資安本身。
而是設計。
設計不只是整體架構。
if 和 for 怎麼寫、欄位怎麼設計、API、模組、領域模型、整個服務怎麼切分。
凡是你有意識地做出的選擇,都是設計。
當你把焦點放到設計上,就能在同一個地方同時處理業務規則與必須守住的擔心。
資安不再只是專家事後修補的東西。
它可以在開發者本來就關心的設計中,一起被處理。
不過,設計並不能防住所有攻擊。
認證、加密、輸出跳脫、基礎設施,仍然各自都還是需要的。
例如,使用者名稱。
如果顯示端把名稱以 HTML 方式插入,名稱中的字串就會變成畫面的指令。
function Profile({ name }: { name: string }) {
return <div dangerouslySetInnerHTML={{ __html: name }} />;
}
假設名稱中含有以下字串:
<img src="x" onerror="alert('已被插入')">
如果透過這個元件顯示,圖片載入失敗的瞬間,alert 就會被執行。
你原本以為自己是在看名稱,實際上卻是在執行名稱裡的指令。
同樣是這個名稱,如果直接當成文字輸出,它就只是單純的字串。
function Profile({ name }: { name: string }) {
return <p>{name}</p>;
}
在領域層面,我們會把「名稱是什麼」做成一個類別。
只接受業務中定義好的字元與長度。
class UserName {
private constructor(readonly value: string) {}
static create(raw: string): UserName {
if (!/^[A-Za-z0-9]{4,40}$/.test(raw)) {
throw new Error("有不能用在使用者名稱中的字元");
}
return new UserName(raw);
}
}
< 或 ' 都無法通過這個類別。
不過,這個類別所守住的是「作為名稱是否成立」。
它不能取代輸出到畫面時的跳脫。
只要仍然存在把內容當 HTML 插入的路徑,別的字元也一樣會發生同樣的事。
設計特別要防的,是業務規則在矛盾狀態下繼續運作。
那條規則存在於對方的腦中。
下一章會談這張地圖。
領域(Domain)就是事業上的範圍。
軟體所要處理的問題,究竟屬於哪個範圍。
那就是領域。
把那個領域模型化之後得到的東西,稱為領域模型。
它是把對方所理解的問題,賦予形狀。
例如,地圖。
如果要環遊世界,就需要世界地圖。
如果只是要走到附近的店,就需要街道地圖。
沒有哪一張才是唯一正確的地圖,重點只是要符合你要解的問題的細緻程度。
把街道地圖交給要去世界旅行的人,當然不適合。
你要解的問題和拿到的地圖不一致。
這就是領域搞錯的狀態。
也不需要把現實世界的全部都照搬,只要挑出需要的部分即可。
找出對方手上拿的是哪一張地圖,就是領域建模。
熟悉業務的人腦中,通常已經有從經驗中累積來的地圖。
但這張地圖不一定以完整成品的形式存在於某一個人的腦中。
要透過提問、具體案例,以及故意挑選的反例,和開發者一起把它找出來。
Eric Evans 對領域的定義是這樣的:
知識、影響力或活動的範圍。使用者將程式套用在其上的主題領域,就是該軟體的領域。
原文是 “A sphere of knowledge, influence, or activity. The subject area to which the user applies a program is the domain of the software.”
這是《Domain-Driven Design Reference》中的定義。
Eric Evans 在《Domain-Driven Design》裡,描述了專案第一天的情況:
牆上一整面貼著大型紙本類別圖。
那是在聰明的人花了幾個月研究領域、做出詳細模型之後的成果。
分析人員忠實反映了業務的特性。
一個物件複雜地連到另外三四個物件,而整張網幾乎沒有自然邊界。檢視這些圖之後,可以看出裡面有知識。
但這些知識並沒有轉化成對程式碼或設計的理解。當實作人員開始動手時,很快就發現了問題。
人可以在圖上追蹤的那些關係,並不是可儲存、可取出的單位。
因為他們使用的是物件資料庫,所以連對應資料表的問題都不存在。
即便如此,這個模型仍然無法作為實作的導引。這個模型被認為是「正確的」。
因為它是技術端的分析人員和業務專家花時間一起做出來的。
實作人員判斷,不能把這種概念式物件直接當成設計基礎。
於是他們依照當下的需要,另外做了其他設計。
在資料儲存上,只有稍微借用了相同的類別名稱和屬性。
但那個設計既不是依據牆上的模型,也不是依據其他任何模型。
即使紙上有模型,如果不能成為可運作軟體的基礎,也沒有意義。
如果分析者和實作者分開,就算是正確的圖,也不會留在程式碼裡。
精心拍下的鏡頭,如果在剪輯時被刪掉,就不會留在作品中。
理解與可運作的軟體,兩者都需要。
我們所理解的領域,會在傳遞過程中改變。
把腦中的問題說成語言。

例如,當產品經理介在中間時。
他會替開發者和領域專家的語言做轉換。
語言在傳遞途中被替換,於是就變成了傳話遊戲。
即使已經歪掉,當事人彼此也不會當面直接接觸。
因為雙方都以為溝通沒問題,所以不會察覺。
原始語言一旦歪掉,後面的設計與實作也都會歪。
源頭錯了,事後修正也無法回到原樣。
例如,假設你請一個會騎腳踏車的人,用口頭方式教機器人「如何向右轉」。
光說把龍頭往右轉,還不夠。
還需要速度、平衡、重心。
會做,和能用規則說出來,是不同的。
如果語言在這裡歪掉,機器人就轉不了右彎。
Eric Evans 把設計分成兩種。
策略性設計,是決定哪個模型要用在哪裡。
模型邊界、核心重點、跨團隊的決策,都屬於這一類。
戰術性設計,則是把單一邊界內的模型實作成程式碼時所用的元件。
實體、值物件、聚合、儲存庫,都屬於這裡。
真正吸引人的,是戰術性設計。
因為程式碼元件先被看見,而邊界與核心的討論,被放在書的後面。
2009 年,在倫敦的 QCon 上,Evans 談到他在書出版後學到的事。
根據演講記錄,他這麼說:
Context 的邊界放在第 14 章。如果重寫這本書,我會把它放得更前面。這是我對寫作方式少數幾個後悔的地方之一。
建構積木被強調得太多了。
到了 2010 年,他又重新表述了領域驅動設計的原則:
不要只從業務專家那裡萃取需求。必須和軟體專家一起尋找模型。
Evans 重視的是,業務的人和開發者一起去找模型。
用同樣的語言理解同一個問題。
那個語言就是起點。
如果起點歪了,設計和實作也會歪。
最好的模型不會一次就完成。
開發者和業務熟悉的人會反覆提問、實作、修正違和感,一次又一次。
在這些反覆過程中,模型會變深。
不過,只是對話,並不會自動產生深模型。
如果問題問得淺,模型也只會一直停留在淺層。
接下來用書店訂單來看這件事。
深層模型,會在追問「什麼時候無法成立」時浮現。
在一家虛構的線上書店,發生了這樣的事。
某天早上,倉庫人員點了貨架。
系統上應該有 100 本,貨架上卻有 101 本。
追查前一天的訂單後發現,數量被填成了 -1。
每本書的單價是 3000 日圓。
總額變成了 -3000 日圓,和其他書一起下單時,還會像是不正當折扣一樣運作。
庫存則是從目前庫存中扣掉訂單數量後更新。
從 100 減去 -1,結果就變成增加 1 本。
多出來的 1 本,被當成盤點誤差而混過去了。
為什麼會變成這種設計?
把冊數做成沒有約束的整數,看起來像是有刻意決定,但其實是沒有多想就留下來的選擇。
就算想得很淺,決策依然會作為設計留在程式碼裡。
訂單、訂單明細、書本,都應該做成專用型別。
冊數、價格、ISBN 這些東西,常常直接用 int 或 string 帶過。
名詞應該做成類別,但意義卻還停留在通用型別上。
提問方式 開發者的問題 看得見的東西 淺層 「訂單需要什麼?」 書、本數、金額這些名詞 深層 「0 本算訂單嗎?-1 本算購買嗎?」 成立與不成立的情況 淺層對話會這樣進行:
開發者:「訂單需要什麼?」
書店的人:「書、本數、金額吧。」
開發者:「本數用整數、金額也用數值來存。」
書店的人:「好,這樣沒問題。」
接著開發者就會建立 Order、OrderLine、Book。
只是把概念排出來,再套進型別而已。
但他沒有問到下限、上限、單位,或是與退貨之間的差異。
那些沒意識到的決定,也會作為設計留在程式碼裡。
深層對話會在做成設計前,先問本數的範圍。
開發者:「本數最多可以到多少?」
書店的人:「一般客戶一次能買的本數有上限。企業大量採購是從報價流程進來,算是不同流程。」
開發者:「int 大概能放負 21 億到正 21 億之間。會有那種數量嗎?」
書店的人:「不會。個人購買最多 240 本。」
開發者:「0 本算嗎?」
書店的人:「作為購買訂單,不算。不過購物車裡什麼都沒放的狀態,畫面上會保留。」
開發者:「購物車的 0 本,和訂單的 0 本,是同樣的數量嗎?」
書店的人:「數字看起來一樣,意思不同。要變成訂單時,至少要 1 本以上才算成立。」
開發者:「0.5 本可以賣嗎?」
書店的人:「那不是紙本書吧。一律以 1 本為單位。」
開發者:「-1 本算購買嗎?」
書店的人:「不算。顧客把書退回來時,會由另一個流程處理為退貨。」
根據這段對話,個人購買的本數可以這樣定義:
class OrderQuantity {
private constructor(readonly value: number) {}
static create(raw: number): OrderQuantity {
if (!Number.isInteger(raw) || raw < 1 || raw > 240) {
throw new Error("個人購買為 1 本到 240 本");
}
return new OrderQuantity(raw);
}
}
-1 本、0 本、241 本都不會通過。
21 億本也不會通過。
這是針對個人購買。
購物車的 0 本、退貨的數量,則是另一種型別。
重點是不要先把答案帶進去。
0 本對訂單來說可能是不合法的,但在購物車或庫存的脈絡下可能有意義。
負數對購買來說是不合法的,但在退貨或會計分錄的脈絡下可能有意義。
如果只用「數量一律為正」來切,就會把其他業務中合法的數量也一起扼殺。
要問的是:這是什麼場景下的、什麼樣的數量?
名詞已經變成類別了,但意義還沒有被追問
像 Quantity、Money、ISBN 這類型別,是用來保留其意義的手段。
但它們不能取代理解。
還需要建立時的限制、操作代表什麼意思、以及與其他值之間的一致性。
如果使用者 ID 和卡號都只是 string,那麼就算把參數對調,型別也還是會通過。
改成不同型別,就能減少拿錯的狀況。
但卡號即使只是把型別分開,也不能算真的安全。
連保管方式本身,都還需要額外注意。
停用或退會的 if、以及本數的 int,問題卡住的地方其實都一樣。

Alberto Brandolini 曾這樣說:
軟體開發是學習的過程。可運作的程式碼,是學習的副產品。
所謂學習的過程,就是透過對話逐步建立領域模型。
在開發過程中,也是在學習業務。
而程式碼則是作為副產品誕生的。
如果提問只停留在名詞層次,那麼副產品也只會停留在名詞層次。
即使已經理解了,真正落到程式碼時,意圖還是會再次流失。
如果現實規則與程式碼不一致,那個不一致就可能成為漏洞。
-1 本就是這種不一致在金額與庫存上顯現出來的例子。
那麼,當我們理解了規則之後,要怎麼證明程式碼真的遵守了它?
理解的規則,和程式碼實際遵守的規則,是兩回事。
購買本數不會是負數。
退會的會員不能使用付費服務。
這些都是可以透過與對方對話找出來的規則。
即使已經理解了,如果程式碼還是接受負數本數,那就沒有意義。
在軟體資安中,這裡要看的,就是現實業務與程式碼允許的行為之間的矛盾。
並不是所有認證或加密都能用這種矛盾來說明。
但從業務邏輯來的脆弱性,就是這種矛盾。
那麼,要怎麼確認程式碼真的遵守了規則?
所謂不寫出矛盾的程式碼,就是這個意思。
業務上不可能發生的事,在程式碼中也不會發生。
如果是個人購買,就不會出現 -1 本或 241 本。
這樣的規則,稱為契約。
以個人購買來說,冊數必須介於 1 本到 240 本之間,這就是約定。
呼叫端必須傳入這個範圍內的冊數。
程式碼不接受範圍外的值。
處理完成後,庫存會依照傳入的冊數減少。
如果程式碼放行了約定之外的值,業務與實作就會產生矛盾。
測試所能確認的,只是你準備好的輸入。
即使試過一次 -1 本,也只能知道那一次的結果。
至於沒試過的數字是否也會發生同樣的矛盾,測試無法直接保證。
證明則是用來顯示「不存在邏輯矛盾」的方法。
它能證明你所決定的性質,在所有輸入下都成立。
測試 證明 能確認的範圍 你寫進去的輸入 所有輸入 擅長的事 實際跑看看來確認 保證絕對不會發生的事 適合的對象 外部 API、效能、UI、執行環境 權限、狀態轉移、計算規則 例如,假設你定義個人購買的冊數只能是 1 本到 240 本。
如果這個契約能被證明,那麼任何輸入都不會跑到這個範圍外。
也就是說,那種矛盾可以說是沒有發生。
既然知道沒有發生,那這個擔心就被守住了。
這裡所保住的資安,就是現實業務與程式碼不一致這件事。
數學上有證明,可以從邏輯上顯示命題為真。
程式也有方法,可以用機器的力量證明你所決定的性質成立。
那段程式碼,真的能說是正確嗎。

如果命題和業務不一致,就只是在正確地證明錯誤的性質而已。
先從領域中找出什麼才算正確,才是第一步。
被證明正確的程式碼會直接執行。
Lean 的證明接近數學證明。
它原本主要是用來解數學問題,而不是用來實作應用程式。
而為了開發應用程式而誕生的語言,就是 Tauto。
場景 證明所保證的內容 按下登入按鈕時 登入與登出不會同時發生 經過加密的資料 加密前的資訊不會混入其中 轉回 Base64 時 回到原始資料時內容完全一致 有證明,指的是這些保證不會停留在另一份文件上。
經過證明能滿足保證的程式碼,就是實際會執行的程式碼。
如果是 Base64,你可以在儲存庫裡直接讀到這個證明。
像加密這樣的元件,也可以用同樣方式,事先附帶證明來提供。
Tauto 的執行受到 Rust 的影響。
它的目標是讓部署後仍然跑得快。
並盡量減少記憶體和 CPU 的消耗。
它也能輸出成 JavaScript,所以這段程式碼可以直接在瀏覽器中執行。
這個語言偏向 vibe coding。
而 AI 往往會把中間過程藏起來。
如果使用了 macro,展開後的結果會保留下來。
如果使用了 import,匯入的內容也會全部保留下來。
在證明過程中,目前正在證明的目標也會清楚留下來。
不論是人還是 AI,都不需要去猜那些藏起來的部分。
讓 AI 快速寫程式的同時,機器也會檢查契約是否被遵守。
如果要讓 AI 寫程式,也請讓它把資安證明一起寫出來。
文法、安裝與使用方式都在儲存庫中。
語言的詳細說明,請參考作者的文章。
這次文章內容的實作學習工作坊即將舉辦!
也會邀請 Tauto 的作者親自帶大家動手實作,學習這種可以讓 AI 寫證明的語言!!
歡迎參加!
這次介紹了在 AI 時代,如何把資安當作設計上的擔心來看待,以及如何用命題去確認它是否正確,還有 Tauto 這個工具。
請你現在打開自己手上的程式碼,至少試著把一個業務上不可能發生的操作,寫成一句話。
不論是數量、狀態,或是對誰不允許都可以。
今天不需要把整份實作全部重讀。
如果你看到這裡,還請按讚和加入收藏。
如果能追蹤 @Sicut_study,我會非常開心。
我們明天的文章再見!
程式設計教練 JISOU 正在招募新成員。
要不要加入日本第一的輸出型社群,一起提升職涯呢?
有興趣的話,歡迎直接從官網申請諮詢!
▼▼▼
原文出處:https://qiita.com/Sicut_study/items/b6d17933cc276dadf6d5