你的 AI 伺服器,現在這一刻也全都看得一清二楚

「只要使用 AI,工作效率就能提升」

抱持著這樣的信念,急著部署 Ollama 或 n8n 的公司應該不少。

但先等一下。

資安公司 Intruder 本月公布的調查結果,對業界造成了震撼。其掃描了超過 200 萬台主機,並分析了100 萬個公開的 AI 服務,結果是——

「比起我們過去調查過的任何軟體,都更加脆弱、暴露,且充滿設定錯誤」

這不是危言聳聽,而是根據真實資料得出的冷酷現實。

先說結論...

  • 31% 的 Ollama API 沒有驗證就直接公開
  • 其中有518 台是把付費的 OpenAI / Google / Anthropic 模型包裝後,無驗證公開
  • 政府機關、金融機構的 n8n / Flowise 有 90 台以上,整個工作流程都一覽無遺
  • 使用者的對話紀錄、API 金鑰、內部邏輯全部都看得到

而且,這個「漏洞」已經被用來造成史上第一次的事件。

史上首次:AI 做出來的零日漏洞,差點引發大規模攻擊

Google 的威脅情報團隊(GTIG)在 5 月 11 日公布的內容更令人震驚。

「AI 模型發現了零日漏洞,並阻止了一個原本打算利用它進行大規模攻擊的駭客集團」

具體發生了什麼事:

  1. 駭客集團使用 AI(LLM)找到了可繞過雙重驗證的零日漏洞
  2. 透過 Python 自動生成 exploit 程式碼
  3. 規劃大規模入侵作戰
  4. Google 事前察覺,並與廠商合作套用修補程式

GTIG 斷定:「高度確信 AI 模型生成了 exploit 腳本」。為什麼他們能知道?

因為程式碼裡出現了大量「像教材一樣」的 docstring
甚至還寫了「幻覺出來的 CVSS 分數

LLM 生成程式碼特有的那種「太過規矩」的風格,反而成了證據。

到底有哪些東西被暴露了?

Ollama API:掃描超過 5,200 台

Ollama 是很受歡迎的本地端 LLM 伺服器。不過調查結果相當驚人:

狀態台數比例無驗證回應約 1,600 台31%包裝付費模型518 台-有 518 台伺服器,任何人都能免費使用 GPT-4 或 Claude

企業付出去的 API 費用呢? 正在某個人的錢包裡慢慢流失。

代理管理平台:n8n、Flowise

n8n 和 Flowise 可以用無程式碼方式建立自動化工作流程,非常方便,但:

  • 政府、行銷、金融等領域有 90 台以上未經驗證就公開
  • 某個 Flowise 實例中,LLM 聊天機器人服務的整體商業邏輯全都看得到
  • 甚至還包含對第三方系統的憑證資訊

很多案例都是因為「反正是內部工具」而掉以輕心,結果直接暴露到網際網路上。

聊天機器人:對話紀錄全公開

也有報告指出,基於 OpenUI 的聊天機器人中,使用者的完整對話紀錄是可直接存取的。

客戶輸入的個人資料、內部機密資訊,全都處於第三方可見的狀態。

為什麼會變成這樣?

根據 Intruder 的分析,根本原因是「對 AI 工具特有的資安風險缺乏重視」:

❌ 預設未啟用驗證
❌ 在 setup 檔中硬編碼認證資訊
❌ 以 root 權限執行應用程式
❌ 程式碼執行功能缺乏沙箱隔離
❌ 脆弱的 Docker 設定

傳統軟體產業花了幾十年才學會的教訓,還沒跟上 AI 浪潮的速度

現在就該檢查的 5 個重點

如果你的組織有在營運 AI 服務,請立刻確認。

1. Ollama 的驗證設定

# 透過環境變數啟用 API 金鑰驗證
OLLAMA_API_KEY=your-secret-key

預設狀態下沒有驗證,務必要設定。

2. n8n / Flowise 的存取控制

# n8n 的驗證設定
N8N_BASIC_AUTH_ACTIVE=true
N8N_BASIC_AUTH_USER=admin
N8N_BASIC_AUTH_PASSWORD=strong-password

3. 確認網路設定

# 確認公開埠
netstat -tlnp | grep -E '11434|5678|3000'

確認是否只綁定在 localhost。

4. 重新檢視 Docker 設定

# docker-compose.yml
services:
  ollama:
    ports:
      - "127.0.0.1:11434:11434"  # 僅限 localhost

確認沒有綁定成 0.0.0.0

5. 使用 VPN 或私有網路

內部工具一定要透過 VPN私有子網路來運作。

AI 資安的「新常識」

這次調查揭示的是,AI 時代的資安和過去有根本性的不同

傳統軟體

  • 預設就啟用驗證
  • 文件中清楚寫明資安設定
  • 漏洞可透過 CVE 追蹤

AI 工具

  • 預設就關閉驗證(優先讓它能跑)
  • 資安設定文件非常薄弱
  • 連漏洞的定義都很模糊(例如:什麼是 prompt injection?)

而且,攻擊者也開始使用 AI 了

發現零日漏洞、撰寫 exploit、規劃大規模攻擊——這一切都會因為 AI 而加速。

Google 的 John Hultquist(GTIG 首席分析師)說:

「外界常以為 AI 驅動的漏洞競賽『即將開始』。但現實是,它早就開始了。」

總結:3 個行動項目

  1. 立刻掃描你們公司的 AI 服務

    • 檢查公開埠、驗證設定、網路架構
  2. 不要相信預設設定

    • AI 工具優先考慮的是「能跑」,資安要自己設
  3. 以 AI 攻擊為前提設計防禦

    • 現在是 24 小時內就可能出現 exploit 的時代,修補程式要優先處理

如果這篇文章對你有幫助,請按讚並收藏!

問題:你所在的組織有在做 AI 服務的資安稽核嗎?歡迎留言告訴我。


參考連結

We Scanned 1 Million Exposed AI Services. Here's How Bad the Security Actually Is

Hackers Used AI to Develop First Known Zero-Day 2FA Bypass for Mass Exploitation

Google says it likely thwarted effort by hacker group to use AI for 'mass exploitation event'

Adversaries Leverage AI for Vulnerability Exploitation | Google Cloud Blog


原文出處:https://qiita.com/emi_ndk/items/0aac69d8a962d2413d9d


精選技術文章翻譯,幫助開發者持續吸收新知。

共有 0 則留言


精選技術文章翻譯,幫助開發者持續吸收新知。
🏆 本月排行榜
🥇
站長阿川
📝16   💬11   ❤️1
529
🥈
alicec
📝1   ❤️2
82
🥉
我愛JS
💬1  
4
評分標準:發文×10 + 留言×3 + 獲讚×5 + 點讚×1 + 瀏覽數÷10
本數據每小時更新一次
📢 贊助商廣告 · 我要刊登