「只要使用 AI,工作效率就能提升」
抱持著這樣的信念,急著部署 Ollama 或 n8n 的公司應該不少。
但先等一下。
資安公司 Intruder 本月公布的調查結果,對業界造成了震撼。其掃描了超過 200 萬台主機,並分析了100 萬個公開的 AI 服務,結果是——
「比起我們過去調查過的任何軟體,都更加脆弱、暴露,且充滿設定錯誤」
這不是危言聳聽,而是根據真實資料得出的冷酷現實。
而且,這個「漏洞」已經被用來造成史上第一次的事件。
Google 的威脅情報團隊(GTIG)在 5 月 11 日公布的內容更令人震驚。
「AI 模型發現了零日漏洞,並阻止了一個原本打算利用它進行大規模攻擊的駭客集團」
具體發生了什麼事:
GTIG 斷定:「高度確信 AI 模型生成了 exploit 腳本」。為什麼他們能知道?
因為程式碼裡出現了大量「像教材一樣」的 docstring
甚至還寫了「幻覺出來的 CVSS 分數」
LLM 生成程式碼特有的那種「太過規矩」的風格,反而成了證據。
Ollama 是很受歡迎的本地端 LLM 伺服器。不過調查結果相當驚人:
狀態台數比例無驗證回應約 1,600 台31%包裝付費模型518 台-有 518 台伺服器,任何人都能免費使用 GPT-4 或 Claude。
企業付出去的 API 費用呢? 正在某個人的錢包裡慢慢流失。
n8n 和 Flowise 可以用無程式碼方式建立自動化工作流程,非常方便,但:
很多案例都是因為「反正是內部工具」而掉以輕心,結果直接暴露到網際網路上。
也有報告指出,基於 OpenUI 的聊天機器人中,使用者的完整對話紀錄是可直接存取的。
客戶輸入的個人資料、內部機密資訊,全都處於第三方可見的狀態。
根據 Intruder 的分析,根本原因是「對 AI 工具特有的資安風險缺乏重視」:
❌ 預設未啟用驗證
❌ 在 setup 檔中硬編碼認證資訊
❌ 以 root 權限執行應用程式
❌ 程式碼執行功能缺乏沙箱隔離
❌ 脆弱的 Docker 設定
傳統軟體產業花了幾十年才學會的教訓,還沒跟上 AI 浪潮的速度。
如果你的組織有在營運 AI 服務,請立刻確認。
# 透過環境變數啟用 API 金鑰驗證
OLLAMA_API_KEY=your-secret-key
預設狀態下沒有驗證,務必要設定。
# n8n 的驗證設定
N8N_BASIC_AUTH_ACTIVE=true
N8N_BASIC_AUTH_USER=admin
N8N_BASIC_AUTH_PASSWORD=strong-password
# 確認公開埠
netstat -tlnp | grep -E '11434|5678|3000'
確認是否只綁定在 localhost。
# docker-compose.yml
services:
ollama:
ports:
- "127.0.0.1:11434:11434" # 僅限 localhost
確認沒有綁定成 0.0.0.0。
內部工具一定要透過 VPN 或 私有子網路來運作。
這次調查揭示的是,AI 時代的資安和過去有根本性的不同。
而且,攻擊者也開始使用 AI 了。
發現零日漏洞、撰寫 exploit、規劃大規模攻擊——這一切都會因為 AI 而加速。
Google 的 John Hultquist(GTIG 首席分析師)說:
「外界常以為 AI 驅動的漏洞競賽『即將開始』。但現實是,它早就開始了。」
立刻掃描你們公司的 AI 服務
不要相信預設設定
以 AI 攻擊為前提設計防禦
如果這篇文章對你有幫助,請按讚並收藏!
問題:你所在的組織有在做 AI 服務的資安稽核嗎?歡迎留言告訴我。
We Scanned 1 Million Exposed AI Services. Here's How Bad the Security Actually Is
Hackers Used AI to Develop First Known Zero-Day 2FA Bypass for Mass Exploitation
Google says it likely thwarted effort by hacker group to use AI for 'mass exploitation event'
Adversaries Leverage AI for Vulnerability Exploitation | Google Cloud Blog