人工智慧聊天機器人席捲全球，其中引領潮流的是 OpenAI 的 ChatGPT。 ChatGPT 雖然功能強大，但也存在一些限制：它在雲端執行，存在隱私問題，並且並非開源。
無論您是想在本地執行 AI 的開發者，還是正在嘗試模型的研究人員，亦或是厭倦了使用限制的普通人，您都很幸運。開源 AI 世界蓬勃發展，各種本地替代方案讓您可以完全掌控聊天機器人的體驗——離線、私密且易於破解。
💡 在深入攻讀本地LLMs (LLM) 之前，您是否正在尋找 Postman 的替代品？
了解Apidog——一個集 API 設計、測試、模擬和文件編寫於一體的平台。它結合了 Postman 和 Swagger 的強大功能，可在 Web 和桌面上執行，並提供豐富的免費套餐，非常適合在本地建置和測試 LLM 應用程式的開發者。
在本文中，我們將探討10 種最佳開源 ChatGPT 替代方案，您可以在自己的機器或伺服器上 100% 本地執行它們。
為什麼要在本地執行 AI？
那麼…當雲端服務已經可以開箱即用時，為什麼還要費力在自己的機器上執行 ChatGPT 風格的模型呢？
以下是開發人員和人工智慧愛好者轉向本地的一些充分理由：
-
完全資料隱私：在本地執行時，您的輸入、輸出和提示完全保留在您的裝置上。這意味著不會發生意外資料洩露，不會有第三方分析，也不會出現「我們可能會使用您的輸入來改進我們的模型」之類的模糊條款。
-
離線存取：沒有網路？沒問題。即使您在飛機上、離網或在安全環境中工作，本地工具也能讓您產生回應、程式碼或內容。
-
開源且易於開發：本列表上的大多數工具都是完全開源的。這意味著您可以閱讀程式碼、fork 程式碼庫、進行更改，甚至回饋程式碼庫。
-
為開發人員提供更快的迭代：如果您在語言模型上建立某些東西，那麼在本地工作可以顯著加快您的開發週期。
-
隨著時間的推移節省成本：本地模型可能需要一些前期設置或硬體資源，但如果您經常使用 LLM，則從長遠來看，在本地執行它們可以節省大量資金 - 特別是與商業平台上的高使用率層相比。
ChatGPT 開源替代方案
-
AMD 的Gaia
Gaia是 AMD 推出的全新開源專案，它允許您在Windows PC上完全執行 LLM，無論是否配備 Ryzen AI 晶片等專用硬體。它以其簡單的設定和內建的 RAG（檢索增強生成）功能而脫穎而出——如果您想要能夠對本地資料進行推理的模型，那麼 Gaia 是理想之選。
主要特點：
- 使用 ONNX 的 Lemonade SDK完全在本地執行，並針對 Ryzen AI 處理器進行效能最佳化。
包括四個內建代理：
-
簡單提示完成基本交互
-
Chaty ，一個標準的聊天代理
-
剪輯，用於 YouTube 問答
-
Joker ，輕鬆愉快
-
透過本地向量資料庫支援 RAG ，實現基於上下文的回應
兩個安裝程式選項：
-
適用於任何 Windows PC 的主流安裝程序
-
針對 Ryzen AI 硬體優化的混合安裝程序
-
提供更高的安全性、低延遲和真正的離線功能。
適合：
想要功能強大、具有離線功能的 LLM 助理的 Windows 用戶（尤其是那些擁有 Ryzen AI 硬體的用戶），但它可以在任何現代 PC 上運作良好。
2.奧拉瑪 + 拉瑪 / 米斯特拉爾 / 傑瑪
Ollama 是一個簡潔的本地執行時，適用於大型語言模型 (LLM)，例如 Meta 的 LLaMA、Mistral 和 Google 的 Gemma。它透過提供類似 Docker 的 CLI 來下載、執行和聊天，從而簡化了執行大型模型的複雜性。
為什麼它很棒：
-
簡單的 CLI 和桌面介面
-
支援多種開源模型（LLaMA、Mistral、Code LLaMA）
-
即使在配備 Apple Silicon 的 MacBook 上也能實現快速本地推理
適合人群：希望以輕鬆的方式在本地攻讀LLMs學位的任何人
-
LM Studio
許可證： MIT
LM Studio 是一款用於與 LLM 聊天的本機 GUI 應用程式。它支援 Hugging Face 或 TheBloke 的任何 GGUF 模型，並且無需網路連接即可在本地執行推理。
為什麼它很棒：
-
美觀直覺的桌面使用者介面
-
透過拖放操作輕鬆導入模型
-
本地歷史和多模型切換
適合人群：非技術用戶、需要無終端 GUI 的開發人員
-
LocalAI
網址： https://github.com/go-skynet/LocalAI
LocalAI 類似於 OpenAI 的 API，但完全是本地化的。它提供了與 OpenAI 相容的 API 的直接替代方案，因此您可以執行自己的類似 GPT 的模型，並將其用於為 ChatGPT 建置的應用中。
為什麼它很棒：
-
與 OpenAI 完全 API 相容
-
使用 Docker 輕鬆部署
-
執行 GGUF 和 ONNX 模型
適合人群：希望將 LLM 完全控制整合到應用程式中的開發人員
5.文字產生 Web UI（oobabooga）
網址： https://github.com/oobabooga/text-generation-webui
這款工具堪稱執行本地 LLM 的瑞士軍刀，擁有完整的 Web 介面、外掛程式支援、聊天歷史記錄等功能。它支援 Vicuna、Mistral、Falcon 等多種格式的模型。
為什麼它很棒：
-
功能豐富，包括聊天、指導和角色扮演模式
-
用於語音轉文字、記憶和嵌入等擴展的插件系統
-
社區驅動且高度可自訂
適合人群：高級用戶和修補匠
-
PrivateGPT
網址： https://github.com/imartinez/privateGPT
PrivateGPT 專為那些想要完全離線的 AI 聊天機器人的用戶打造，它甚至可以在沒有網路連線的情況下回答有關文件的問題。它結合了本地 LLM 和 RAG（檢索增強生成）功能。
為什麼它很棒：
-
完全私密，無需 API 呼叫
-
提交您的 PDF 或 DOC 並提出問題
-
非常適合法律、學術和企業用戶
適合族群：資料敏感使用者、法律團隊、研究人員
-
GPT4All
Nomic AI 的 GPT4All 提供了一個簡單的 GUI，可與筆記型電腦或桌上型電腦上的多個開源 LLM 進行互動。它專注於在消費級硬體上執行良好的小型高效能模型。
為什麼它很棒：
-
輕鬆一鍵安裝
-
支援多種模型（LLaMA、Falcon 等）
-
適用於 Windows、macOS 和 Linux
適合人群：想要即插即用本地LLMs (LLM) 的新手或開發人員
-
Jan（以前稱為 gpt-terminal）
網址： https://github.com/adamyodinsky/TerminalGPT
Jan 是一款開源 AI 助手，旨在本地執行，並擁有美觀的 macOS 風格桌面 UI。它支援多種 LLM 後端，並提供程式碼輔助。
為什麼它很棒：
-
流暢且反應迅速的使用者介面
-
注重可用性和離線隱私
-
適用於 Ollama 和 Hugging Face 模型
適合人群： Mac 用戶、設計師和注重隱私的程式設計師
-
Hermes / KoboldAI Horde
網址： https://github.com/KoboldAI/KoboldAI-Client
KoboldAI 最初是為 AI 故事敘述而打造的，支援多種開放模型，非常適合對話生成、故事創作和角色扮演。透過適當的設置，它也可以像 ChatGPT 一樣使用。
為什麼它很棒：
-
專為講故事和對話量身定制
-
與基於 GGUF 和 GPT-J 的模型離線工作
-
支援透過 Horde 網路協作使用模型
適合人群：作家、小說創作者、業餘愛好者
10.聊天機器人UI + Ollama後端
網址： https://github.com/mckaywrigley/chatbot-ui
如果您喜歡 ChatGPT 介面，那麼這款應用非常適合您。 Chatbot UI 是一款簡潔的前端，模仿 ChatGPT，但可以連接到您本地的 Ollama、LocalAI 或 LM Studio 伺服器。
為什麼它很棒：
-
漂亮的 ChatGPT 風格 UI
-
具有後端靈活性的本地部署
-
自託管且可配置
適合人群：想要在家中使用私人 ChatGPT 克隆版的開發者
最後的想法
AI 並非非得存在於雲端。隨著開源工具和本地優先開發模式的興起，將 ChatGPT 式體驗引入您自己的設備比以往任何時候都更加輕鬆，而且無需放棄控制權或隱私。
無論您是正在嘗試 LLM 的開發者，還是追求可重複性的研究人員，亦或是只想體驗 AI 卻不想被監控的人，總有一款本地工具適合您。從輕量級的桌面應用到完全可自訂的自架設置，選擇範圍正在快速增長，並且每月都在不斷增強。
開源賦予你自由：你可以調整、學習、貢獻，並建立完全按照你期望運作的東西。說實話，這正是這個領域如此令人興奮的原因。
如果你一直在猶豫是否要放棄雲端 AI，或許現在是時候嘗試這些本地替代方案了。開源技術的發展速度之快，或許會讓你大吃一驚。
原文出處：https://dev.to/therealmrmumba/10-best-open-source-chatgpt-alternative-that-runs-100-locally-jdc
1) --- 會變成分隔線（上一行必須是空白）
2) # 會變成一級標題
3) ## 會變成二級標題
4) ### 會變成三級標題
5) **粗體文字**會顯示粗體文字
6) ```當第一行與最後一行會顯示程式碼
7) 請搜尋 Markdown 語法，了解各種格式