前言

Jev 是一種 AI 模型,會讀取文章與業務資料,並將分類、評分、條件判定的結果以附帶機率的形式回傳。

模型回傳的結果,預期會用於應用程式需要分岔處理流程的場景。程式可以明確判定條件,並應用於複雜的控制流程。

在 Jev 發表之後,市場上出現了彷彿 Jev 會取代傳統 LLM 以及周邊 AI Agent 技術的熱潮;那麼,Jev 與傳統技術究竟有什麼差異呢?本文將冷靜地拆解其中的不同之處。本文以 AWS 的 Amazon Bedrock AgentCore 作為傳統技術的例子。

Jev 的首次公開

TypeSafe AI 於 2026 年 9 月 15 日發表了 Jev,作為該公司稱為「System One Model」的 AI 模型系列中的第一個公開模型。

System One 這個名稱源自丹尼爾・康納曼所描述、快速且直覺地做判斷的「系統 1」;而 Jev 的名稱則是取自以效率提升反而導致資源使用擴大現象聞名的經濟學家威廉・史丹利・傑文斯。

傳統 LLM 與 Jev 的差異

TypeSafe AI 在發表 Jev 時,強調的是應用程式容易使用的 AI 輸出

在業務系統中,有許多判斷需要做,例如分類詢問內容、確認文件是否符合條件、選擇下一步處理等等。Jev 的設計,就是將這類判斷以帶型別的值回傳,讓程式可以直接使用。

光看這段說明可能還是有點抽象,我們用一個更容易理解的例子來說明。假設顧客寄來了以下電子郵件:

關於剛才的訂單,我被重複請款了。請退還重複請款的部分。上週我也有詢問,但還沒有收到回覆。

那麼,系統應該如何決定要執行什麼處理呢?我們來比較一下:一個是將傳統 LLM 與 AI Agent 結合實作的系統,另一個是將 Jev 與非 AI Agent 的應用程式結合實作的系統。

傳統 LLM + AI Agent 的情況

請想像一個使用 Amazon Bedrock AgentCore 等方式實作 AI Agent 並運營系統的情境。

AI Agent 會將顧客的電子郵件、處理歷程、可用工具、退款規則等資訊作為輸入交給 LLM。LLM 讀取內容後,可能會決定依照以下流程處理,並以字串形式回傳相當於指令文的內容:

* 選擇取得訂單資訊與請款紀錄的工具
* 讀取取得的結果,判斷是否為重複請款
* 確認退款規則,並選擇退款或送出核准申請的工具
* 根據執行結果撰寫回覆內容

在上面的例子中,LLM 會依照情境選擇下一個工具與處理順序。開發者預先串接好工具、設定權限與核准條件,LLM 則在這些範圍內進行判斷。

Jev + 非 AI Agent 的情況

相對地,Jev 會針對給定的狀態,回傳對預先定義問題的選擇結果與機率。

首先,事先定義好「詢問類型」的選項;接著再定義「是否有退款要求」與「是否為再次詢問」這些問題。

在這種情況下,當送出評估前述電子郵件的請求時,預期 Jev 會回傳如下結果。

以下回應是為了幫助理解 Jev 的概念,參考官方文件後,基於方便說明所做的模式化呈現。

{
  "詢問類型": {
    "選擇結果": "重複請款",
    "機率": {
      "重複請款": 0.98,
      "配送": 0.01,
      "其他": 0.01
    }
  },
  "有退款要求的機率": 0.99,
  "是再次詢問的機率": 0.97
}

表面上看起來,這似乎只是把傳統 LLM 原本就能做到的事情重新發明一次,但Jev 所扮演的角色其實只有「處理路由」。Jev 回傳的結果是以靜態數值呈現,而程式只要評估這個數值,然後執行數值最高對應的處理即可。

當然,Jev 回傳的數值每次都可能不同。不論回傳什麼值,程式只要評估這些值,透過傳統比較運算決定要呼叫哪個工具即可。

在傳統 AI Agent 中,是由 LLM 決定要呼叫哪個工具,但其判斷邏輯非常像黑盒子。Jev 的回應雖然也是以機率決定,但判斷邏輯可以在程式碼中清楚定義。

不過,由於 LLM 也可以輸出包含機率的相同格式,因此若只看可生成的資訊,兩者其實沒有決定性的差異。

Jev 所主張與傳統 LLM 的不同之處在於,模型是針對這類分類、機率輸出而特化訓練與設計,因此可以更快速、低成本地執行。若只是根據模型分類的結果來處理,程式只需要呼叫 Jev 模型,並依據結果進行條件分支即可,不需要像 Amazon Bedrock AgentCore 這類 AI Agent 基礎架構。

「LLM + AI Agent」vs「Jev + 非 AI Agent」

雖然前面將 Jev 描述得像是可取代傳統技術,但傳統 LLM 搭配 AI Agent 的方案當然也有更適合的情境;其差異可如下表所示。

觀點 結合 Jev 的業務應用程式 以 LLM 為核心的 AI Agent
交由 AI 處理的內容 分類、條件是否符合的判定、評分 情境解讀、下一步行動或工具的選擇
交由程式定義的內容 對應判定結果的處理,以及其執行條件與順序 可用工具、權限、核准條件、執行上的限制
下一步處理的決定方式 接收 AI 的判定結果後,透過寫在程式中的條件分支決定 由 LLM 根據指令、對話歷史、工具執行結果來選擇
客戶應對範例 若判定為退款要求,就進入預先定義好的請款確認與核准流程 視情況選擇請款確認、追加提問、交接給客服人員等

在結合 Jev 的應用程式中,AI 會對輸入內容進行分類與評估,接著程式依據結果執行預先定義好的處理。應用程式程式碼本身並沒有代理式的處理流程。

以 LLM 為核心的 AI Agent,則是在給定權限與限制的範圍內,由 AI 根據上下文選擇下一個要使用的工具與處理順序。

簡單來說,差別就在於:由程式還是由 AI 來負責決定處理流程。

總結

Jev 是一種能讀取輸入語意,並將分類與條件判定結果以附帶機率的形式回傳的 AI 模型。當考慮將其整合進業務流程時,重點在於程式所要執行的處理必須明確。以客服應對為例,Jev 會判定詢問內容與是否有退款要求(以機率輸出),因此需要在程式碼中具備判定邏輯,並事先定義好請款確認、核准等流程。

另一方面,在以 LLM 為核心的 AI Agent 中,會根據對話歷史與工具執行結果,由 AI 自行決定接下來要確認什麼、要使用哪個工具。雖然非常彈性,但即使執行相同的處理,每次所需的思考時間與上下文消耗都可能不同,進而影響成本。

使用 Jev,可望在維持所需品質的前提下,於應用程式端以低延遲、低成本的方式處理反覆發生的判斷與流程。只要讓 AI 輸出數值,接下來就交給固定的既定處理即可。

如本文所介紹,將「LLM + AI Agent」與「Jev + 非 AI Agent」進行比較,會更容易理解。了解各自的特點並妥善分工使用,是很重要的。

參考資料


原文出處:https://qiita.com/nasuvitz/items/44f20ed515b9734afb26


精選技術文章翻譯,幫助開發者持續吸收新知。

共有 0 則留言


精選技術文章翻譯,幫助開發者持續吸收新知。
🏆 本月排行榜
🥇
站長阿川
📝42   💬1  
603
🥈
NewsData
2
評分標準:發文×10 + 留言×3 + 獲讚×5 + 點讚×1 + 瀏覽數÷10
本數據每小時更新一次
📢 贊助商廣告 · 我要刊登