Microsoft 的 AI 相關服務非常多。一直以來我都以開發為主,因此需要更新包含 M365 相關在內的整體知識,也希望盡可能儘快掌握各種技術與服務。原本這份資料是為了讓自己理解,和 AI 一起整理成的學習筆記,但覺得只留給自己太可惜,所以重新整理成供 Qita 投稿的內容。(如果有錯誤,還請告訴我。我會連同文件一起重新理解)
這裡想先提醒各位的是,戰略上想達成的目標,和實際可使用的功能並不是同一件事。本文將已正式提供的產品、預覽功能,以及未來規劃分開記載。會隨時更新的文件,不能保證是過去某一特定時間點的規格。實際是否提供、合約、價格、支援語言與地區,請在提案時的服務說明與客戶環境中確認。
首先,我想先從 Microsoft 想透過 AI 實現什麼的整體藍圖開始說明。
Microsoft 的 AI 戰略,是以客戶想在工作中實現的事情為出發點,將企業累積的知識與經驗、日常業務中使用的資訊透過 AI 發揮價值,在安全可用的管理之下支援工作者,並放大企業獨有的優勢。
AI 模型的效能當然很重要。但是,光是能使用高效能的通用模型,並不會自動產生該企業獨有的價值。因為客戶的優勢,來自過去累積的專業知識、對顧客的理解、業務規則、資料,以及做決策的經驗。重點在於讓需要的人與代理程式能夠適當活用這些資源。
Microsoft 將這樣的轉型稱為 Frontier Transformation(善用 AI 改變日常工作的推進方式,創造企業的新價值)。這不只是提高個人作業效率,而是把 AI 的活用擴展到重新檢視業務流程、創造新的客戶體驗與產品/服務。其核心概念是,用 Intelligence + Trust(知識與信任)來實現 Human Ambition(人們想實現的事)。也就是說,讓 AI 可活用的知識,以及用來信任並安全使用這些知識的機制,來支撐人們想達成的目標。S01, S03
本資料將想傳達給客戶的方向整理為以下三項。
大致可分為 「幫助工作」「把必要資訊送進 AI」「管理 AI 並保護資訊」 這三種角色。例如,以「業務人員製作給客戶的提案資料」這個工作來看,各自的角色就很容易理解。
由人決定目的與判斷標準,Copilot 與代理程式協助調查、分析、撰寫與執行。除了人直接使用的服務之外,也包含建立符合自家業務的代理程式的服務,這些都屬於這個角色。
主要服務與具體用法Microsoft Copilot(舊稱 Microsoft 365 Copilot)整理會議內容、撰寫郵件或文件草稿、協助資料分析Copilot Cowork委派需要多個步驟的工作,例如從蒐集資訊到製作文件GitHub Copilot協助撰寫程式、測試與程式碼審查Copilot Studio / Microsoft Foundry建立專屬代理程式,支援自家客服或申請流程等提案資料的例子中,這一領域就是在支援 「調查資訊並製作文件草稿」。S01, S10, S19
為了讓 AI 不只回答一般論,而是能提出符合自家狀況的回答與建議,就要把必要資訊送進去。核心就是 Microsoft IQ 的功能群。
主要服務/功能群AI 中可使用的資訊範例Work IQ與商談相關的郵件、會議、文件、關係人等工作背景與情境Fabric / Fabric IQ銷售、庫存、客戶資訊等資料,以及「銷售」等業務上的意義與定義Foundry IQ公司內規、手冊、技術文件等作為回答根據的資訊Web IQ市場動向與企業資訊等公開的外部資訊提案資料的例子中,這項角色就是 「讓它能根據過去商談內容與最新庫存來製作資料」。可參照哪些資訊,會依使用者權限、連接目的地與組態等而異。另外,所謂保護知識,不只是把資訊送進去的機制,還需要下一節要說明的存取管理與資訊保護。S06, S07, S08, S09
管理誰在使用 AI、可存取哪些資訊、能執行什麼操作。同時確認 AI 的運作與回答品質,進而發現問題並改善。
主要服務管理與保護內容Microsoft Agent 365掌握相容的代理程式,管理所有者、權限與風險等Microsoft Entra驗證使用者與代理程式身分,以及管理存取權限Microsoft Purview保護機密資訊、防止不當外流、確認使用紀錄Microsoft Defender / Sentinel / Security Copilot偵測威脅、調查與處理資安問題Microsoft Foundry / Foundry Control Plane評估與監控自家 AI 的回答品質、運作方式、使用量與費用等提案資料的例子中,這項角色就是 建立機制,讓無法查看的資訊不會被使用、控制機密資訊的對外分享、並確認 AI 的運作。透過必要設定與營運的組合來降低風險。S04, S05, S12, S13, S16
也就是說,Copilot 負責支援工作,Microsoft IQ 負責送進必要資訊,Agent 365 等則支援管理與保護,這就是它們之間的關係。不過,各產品的角色彼此有所重疊,不需要一次全部導入。各項功能的提供狀況、支援範圍與合約條件都不同,後續章節會詳細說明。此外,業務成效不只要看服務的使用紀錄,也要搭配作業時間、品質、營收等實際業務指標來確認。
Microsoft 也表示,會讓客戶專屬的資料、專業知識、業務流程與評估結果可用於改善由客戶管理的 AI 系統。不過,實際的儲存、訓練、再利用與智慧財產處理方式,會因所用服務、模型、組態與合約而異。S18
那麼,Frontier Transformation 會如何改變工作的進行方式呢?
AI 不只是透過聊天回答問題或撰寫文件草稿而已。代理程式會使用經授權的資料與工具,推進跨越多個步驟的工作。
不過,這並不是說能自動委派越多工作越好。必須依照想達成的成果與業務風險,設計人為核准的環節、例外發生時的處理方式,以及停止與復原作業的方法。
為了更容易思考導入目的,以下分成三個層次說明。這只是說明上的整理,不代表所有企業都必須依相同步驟推進。
活用階段變更對象人負責的事成果範例支援個人搜尋、會議、文件、分析、開發作業傳達目的並確認輸出縮短準備時間、提升品質人與代理程式共同推進業務業務準備、客服、申請處理等授權並核准重要操作縮短完成時間、減少返工重設業務與事業跨部門流程、新產品/服務管理成果與風險,判斷例外與改善成長、新收益、提升服務水準### 走向讓企業本身持續改善的機制
另一個重要重點是,建立代理程式不是結束。Microsoft 強調的是反覆進行 建置、觀測、評估、改善。也就是說,確認建立的代理程式如何運作,以及在業務上產生了什麼結果,並把這些結果用於下一次改善。
會根據業務成果與使用者回饋,持續檢視所參照的知識、搜尋方式、指示、工具、模型選擇與業務流程。S01, S18
這裡所說的「會學習的組織」,並不是指可未經授權地把對話拿去訓練基礎模型。透過搜尋把資訊作為回答依據、用記憶功能保留處理狀態、以及由客戶明確執行 fine-tuning,這些都是不同機制。這個差異需要分開理解。
前面已說明 AI 戰略的思考方式。接下來,整理各個角色由哪些產品來承擔。
Microsoft 的強項在於能把日常業務中使用 AI 的場景,與資料、模型、開發、基礎架構、安全性串連起來。下表整理了各自的角色,以及對客戶而言的意義。不過,不需要同時購買或導入全部項目。請在活用既有系統與資料的前提下,選擇解決目標業務所需的組合。S01, S02
角色主要產品/功能群對客戶而言的意義人使用 AIMicrosoft Copilot、Microsoft Copilot Chat、Copilot Cowork、各業務別 Copilot在日常工作中使用 AI,並委派工作將情境提供給 AIMicrosoft IQ: Work IQ、Fabric IQ、Foundry IQ、Web IQ讓通用回答更接近組織實際情況的判斷依據建立業務代理程式Microsoft Copilot Studio、Power Platform由業務部門與 IT 協作,開發並運作內建知識與業務操作的專屬 AI開發獨自應用程式、代理程式與開發流程Microsoft Foundry、Foundry Agent Service、GitHub Copilot設計與改善專屬應用、代理程式與開發流程建立資料與運算基礎Microsoft Fabric、OneLake、Azure、可選擇本機執行的方案支撐 AI 所需的資料、效能、執行位置與可用性觀測、統制、保護 AI 的運作Microsoft Agent 365、Foundry Control Plane、Entra、Purview、Defender 等管理所有者、權限、資料使用、行為與風險### 關於 Copilot 的名稱變更
根據 2026 年 9 月確認的 Microsoft Learn,以下有名稱變更的公告。本資料在說明過去發表時,也原則上統一使用新名稱來稱呼產品。來源標題與 URL 則保留可確認原始資料的寫法。S13, S26
對象舊名稱本資料採用的新名稱組織用的業務支援產品Microsoft 365 CopilotMicrosoft Copilot組織用 AI 聊天Microsoft 365 Copilot ChatMicrosoft Copilot Chat(以下簡稱 Copilot Chat)作為入口的應用程式Microsoft 365 Copilot 應用程式Microsoft Copilot 應用程式關於應用程式,官方在 2026 年 8 月 14 日公告,會從 8 月 18 日起開始更新名稱、圖示、帳號顯示等。Windows/Mac 版預定於 8 月 18 日先行預覽,9 月中旬起逐步擴大推出,並不代表所有環境會在同一天完全套用。Web 應用程式的 URL 也會從 m365.cloud.microsoft 遷移至 copilot.cloud.microsoft,並自動從舊 URL 轉址。請確認組織的網路設定未封鎖新 URL。這個時程是關於應用程式更新,不代表所有產品/授權顯示會在同一天一律切換。S26
在移轉期間,畫面、授權與功能說明中可能仍會保留舊名稱。現行授權說明使用 Microsoft Copilot 與 Microsoft Copilot Business 這些名稱,但在購買與管理時,請確認實際合約與顯示名稱。不能僅根據名稱變更,就判斷使用權增加或不需要額外費用。S13, S27
Microsoft 說明,這次名稱變更不會改變組織用的安全性、法規遵循與隱私保護。這也不是要把 Microsoft 365 本身、Copilot Cowork、Copilot Studio、GitHub Copilot、Security Copilot 全部取代成單一的 Microsoft Copilot 產品。S13
另外,個人版 Copilot 與在工作或學校帳號下使用的組織版服務,其合約與資料保護條件不同。即使都叫 Copilot,也請不要混淆這兩者。S13, S15
先從日常工作中使用的組織版 Microsoft Copilot 說起。Microsoft Copilot 結合 Microsoft 365 應用程式、使用者可存取的業務資訊,以及 AI 模型,支援調查、文件撰寫、分析、會議與溝通。
也就是說,它不是單純把外部聊天服務直接顯示在應用程式內。Copilot 會依照使用者權限、正在使用的功能、連接的資訊來源、管理設定,以及當下的需求,參照相關業務資訊。它不會無時無刻搜尋所有可存取的資訊。S03, S13
另一方面,Copilot Chat 是在組織保護機制下使用 AI 聊天的入口。這裡要注意的是,Microsoft Copilot 授權可使用的整體業務資訊,不會自動提供給所有 Chat 使用者。
可參照的資訊範圍會依上傳的檔案、已開啟的內容、在 Outlook 內的使用方式、所連接的代理程式等而不同。因此,不能只說「Copilot Chat 也能同樣使用所有業務資訊」,也不能說「Chat 完全不能使用公司內部資訊」,這兩種說法都不精確。S15
接著介紹 Copilot Cowork。這是一種代理式機制,用來推進耗時較長、或需要多種工具的工作。它會把委派內容拆成步驟,進行資訊蒐集、成果物製作、行程調整等。在過程中,人也可以確認內容或進行修改。
Copilot Cowork 已於 2026 年 6 月在 Microsoft Copilot tenant 中正式提供。官方文件提到,適用於全球市場的 Tier-1 語言。包含日文在內的具體語言、地區與功能是否可用,請確認最新資訊。S19, S20
要使用時,除了 Microsoft Copilot 授權之外,還需要透過 Copilot Credits 付費使用。8 月更新包含本機瀏覽器使用的正式提供,以及以事件為觸發來執行工作的任務。
不過,Cowork 整體已正式提供,與個別功能是否已提供,是兩回事。像 App skill 等 Frontier 預覽功能也存在,因此請依你想使用的功能逐一確認。S19, S20
導入時,除了授權之外,還要確認管理員是否已啟用計量付費,並將使用者或群組指派到支出政策中,以適用於 Cowork。支出政策不只是預算管理,也有使用許可的作用。即使設定很低的上限,也不代表就會禁止使用。另外,預覽時代在代理程式清單中的設定,與現在的使用許可機制不同。模型使用許可、外掛程式與瀏覽器使用設定也要分開管理。S23
此外,也發表了可常駐運作的個人業務代理程式 Microsoft Scout。不過在 6 月的公告中,這只提供給有限的 Frontier 客戶。不是所有客戶都能使用的標準功能。S02, S19
也來確認一下業務別產品的角色。Dynamics 365 與 Power Platform 會把銷售、服務、財務等業務資料與實際處理流程連結到 AI。Microsoft Security Copilot 支援資安人員的調查、分析與應對。此外,GitHub Copilot 則支援開發者的作業,以及從開發到營運的生命週期。
即使名稱裡都有 Copilot,也不是把同一功能換個名字而已,授權也不是共通的。S01, S16
在這些選項中,將業務 AI 與保護/管理一起導入的方案,就是 Microsoft 365 E7: The Frontier Suite。它是把 Microsoft 365 E5、Microsoft Copilot、Agent 365、Microsoft Entra Suite 等整合在一起的組合。5 月的正式提供公告也指出,Agent 365 可單獨購買。
不過,購買 E7 不代表所有 AI 都能免額外費用使用。請注意,這不是把 Azure、Fabric、GitHub,以及所有代理程式執行費用都無限包進去的「全 AI 共通授權」。S03, S04
那麼,要讓 AI 使用與企業工作相關的資訊,需要什麼樣的機制呢?這時就輪到 Microsoft IQ 登場。
Microsoft IQ 是一組功能,讓企業內部的知識與資料,以及外部資訊,能夠被代理程式使用。 這個角色被描述為「智慧層(intelligence layer)」。它不是指單一資料庫或單一模型,也不是說只要一個授權就全部都能使用。S02, S06
下方整理主要功能群與在業務上的使用例。
功能群主要角色業務範例導入時要確認的重點Work IQ處理 Microsoft 365 等資訊中的人、協作與工作情境了解與商談相關的郵件、會議、文件、關係人使用者權限、連接目的地、API 使用條件與計費Fabric IQ將資料與客戶、商品、設備、庫存、指標等業務概念連結以一致定義分析「銷售」「缺貨」「交期延遲」OneLake、語意模型、ontology、資料品質Foundry IQ從多個知識來源在考量權限後取得根據橫跨公司內規、手冊、技術文件,提供有根據的回答Azure AI Search、對應來源的 ACL、搜尋更新、API 版本Web IQ為 AI 提供 Web、新聞、圖片、影片等新的外部資訊查詢市場、企業、產品的公開資訊存取核准、使用條款、送往搜尋目的地的資訊、來源可信度Work IQ 可透過 REST API 與 MCP,讓獨立應用程式或代理程式使用工作情境與對應工具。此外,在 Microsoft 的代理程式平台上,也會透過 A2A 等方式推進代理程式之間的連結。也就是說,它不只是能在 Microsoft 365 畫面內使用的機制。API 的使用與 Microsoft Copilot 使用者授權是獨立的,可透過計量付費使用。即使使用者持有 Copilot 授權,若是在自家或第三方代理程式中使用 Work IQ,仍屬於計量付費範圍。不要把它說成只要有授權,就能無限制地從外部應用程式呼叫 API。S07
Work IQ 除了會話、取得情境與業務操作工具之外,還提供長時間處理時用來保留中間資料與成果的工作區。工作區使用 Microsoft 365 tenant 內的 SharePoint Embedded。操作會在使用者權限範圍內進行,並套用政策控制與記錄。它不只是用來讀取資訊,也應視為可進行業務操作與狀態保存的機制來管理。S07
接著說明 Fabric 與 Fabric IQ 的差異。Fabric 是處理資料的基礎平台;而 Fabric IQ 則是一組讓資料在業務上代表什麼意思的功能群。
其中,OneLake 是資料的共通基礎,而 Power BI 的語意模型負責處理指標與彙總方式的定義。ontology 則表達客戶、商品、設備等業務概念及其關係。不過,僅僅連接既有資料,並不會自動解決術語不一致或資料品質問題。S06
Foundry IQ 以 Azure AI Search 為基礎,提供多個代理程式可共享的知識庫、搜尋規劃、回答根據引用等功能。其對象不只正式文件,也可能包含結構化資料、非結構化資料與外部資訊。因此,四個 IQ 並不是完全不重疊的分類。另請注意,要透過存取權限控制資訊,前提是必須選用相容的資料來源並正確組態。S08
這裡特別要注意的是,必須按功能確認提供狀況。 在 Build 2026 中 Microsoft IQ 已宣布正式提供,但截至確認時間點,仍有以下差異:
也就是說,不能因為 Microsoft IQ 已宣布正式提供,就認為所有包含的功能都已正式提供。S02, S06, S08, S09
在業務中導入 AI 時,不需要一開始就全部自己開發。應先確認標準功能是否就能達成目的,再依需要考慮擴充或自行開發。以下整理各目的的起點。
客戶主要目的起點選擇時的考量想在日常工作中立即活用 AI Copilot / Copilot Chat先確認標準體驗與管理設定是否能滿足需求想建立具有公司知識與業務操作的代理程式Copilot Studio / Power Platform,或 Microsoft Foundry從既有合約、連接目的地、負責開發與營運的人力,以及總成本來選擇起點,並設計連線、權限、發佈與營運需要獨特 UX、模型選擇、複雜控制、面向外部客戶的服務Microsoft Foundry、Azure重視程式碼、資料、評估與執行基礎的設計自由度想改善開發生產力與軟體品質GitHub Copilot、GitHub、VS Code不只改善程式碼生成,也改善審查、測試、CI/CD 與營運Microsoft Foundry 是建立第一個代理程式的起點: 不只是針對複雜的自行開發,也可以在入口網站中設定指令、模型與工具來建立。也不是一定要先從 Copilot Studio 開始,之後再進到 Foundry。S10
特別是中小企業等以有限人力營運的情況下,客戶與支援的合作夥伴需要一起確認既有授權、額外使用費、管理所需技能,以及客服與故障應對,選擇能夠持續運作的組合。請把重新準備 Power Platform 授權與管理體制的負擔,以及使用 Foundry 時 Azure 的費用與營運負擔,一併納入判斷。不能只因企業規模就決定選項,也不能認為其中一方一定比較便宜或容易。
另外,也不一定非得只選 Copilot Studio 或 Foundry 其中之一。例如,可以設計成由低程式碼建立的業務代理程式去呼叫自家 AI 處理或 Foundry 的代理程式。不過,連接功能也包含預覽項目。若要組合使用,請確認所需的整合是否可用。S08
要活用 AI,不必把所有資料都重做。應先確認日常業務中使用的文件、資料庫與業務系統,從讓必要資訊能被搜尋與取得開始。API 是取得系統資訊或請求處理的窗口。確認既有 API 與連接功能是否可用,只針對不足部分進行整備。
在文件型問答中,可以選擇以搜尋機制找出相關段落,再由大型語言模型(LLM)將其作為回答依據的架構。例如,Azure AI Search 的 Blob 索引器可從 Azure Blob Storage 上的 PDF、Word、Excel、PowerPoint 等檔案中擷取文字。不需要把原始文件全部改寫成 Markdown,這不是活用 AI 的前提。S25
不過,不重做原始文件,和不需要做任何搜尋前處理,是兩回事。依據架構與文件狀態,可能需要 OCR 來讀取圖片中的文字、將文章切分成更容易搜尋的單位、建立搜尋索引或向量等。也可以把 Markdown 作為中介格式,這並不是否定格式轉換本身。應視表格與圖表的讀取、搜尋結果與回答品質來選擇必要處理。資訊缺漏、錯誤或舊內容,單靠搜尋與 LLM 無法解決,因此有時也需要修正或補完原始資訊。S25
結構化資料也不是一律轉成文章,而是要考慮透過既有資料庫、API、Fabric 的語意模型等方式,取得與彙總必要數值。例如,最新庫存或銷售總額,不應只靠搜尋結果片段讓 LLM 猜測,而是以權限受控的查詢或 API 取得與計算,再由 LLM 解釋結果。項目意義、單位、彙總條件與資料更新時間點都要明確。S06
當確定業務範圍後,請與客戶業務單位、IT/資安單位以及合作夥伴一起確認以下事項。
對象確認與整備內容文件/資訊來源決定正式資訊來源與版次責任人,確認版本差異、重複與缺漏。準備能將更新/刪除反映到搜尋目的地的方法結構化資料確認項目意義、單位、彙總條件、品質與更新頻率,並讓必要範圍可被取得API/業務操作確認既有窗口、輸入輸出、認證與權限、使用上限與維護負責人。將參照與更新分開,更新時加入輸入驗證、必要核准、防止重複執行與失敗應對資訊保護與記錄確認資訊分類、分享範圍、保存期限、刪除與操作記錄,是否能適用於原始資訊、搜尋索引、快取與 AI 輸出### 讓資訊安全規範能實際運作
起點不是從零新增 AI 專用規範,而是確認既有資訊安全規範是否真的能在實際業務中落實。即使有「只分享給必要的人」這樣的規定,如果沒有人知道由誰來重新檢視權限,就無法運作。請把異動、離職時的權限變更、對外分享核准、保存期限到期後刪除,以及發生問題時的聯絡窗口,連同負責人與流程具體化。
若規範與實際情況有落差,就要改善設定與作業程序。若確認作業集中在少數人身上,應考慮自動化或縮小範圍,不要停留在無法遵守的理想論。接著,如果還有既有規範未涵蓋的風險,例如向外部模型送出資訊、或由代理程式執行業務操作,就要補上必要的規範與流程。這也要連結到資料公開範圍與 API 權限/核准的設計。
這些都不是只為 AI 而做的特殊活動,而是把既有資訊與業務系統安全串接起來、持續改善日常業務的一環。不要等全公司都整備完才開始,應從目標業務所需的範圍出發,資料、API 與營運一起改善。
Microsoft Foundry 是用來開發與運作企業 AI 應用程式的基礎平台。它整合模型、代理程式、工具,以及評估、追蹤處理流程的 tracing 與監控功能。其中,實作與執行代理程式的服務就是 Foundry Agent Service。使用 Azure OpenAI 模型也被定位為這個廣義 AI 基礎的一部分。S10, S11
實作方式包括:宣告指示、模型與工具並交由服務執行的 prompt agent,以及把自己的程式或 framework 以容器方式執行的 hosted agent。Microsoft Agent Framework 是後者等情境可用的開發選項,並不是 Foundry Agent Service 本身。也可以選擇使用 LangGraph 等其他 framework。S10
新 Foundry 入口網站的正式提供,並不代表所有功能都已正式提供。從確認時點的清單來看,主要的代理程式開發與評估已 GA,但監控、記憶、Operate 的 Overview/Assets/Compliance 等仍有部分是 Preview。網路隔離支援也是按功能區分。另外,同一份清單還指出 Foundry Workflows 預定於 2026 年 12 月 1 日終止,新開發建議使用 Microsoft Agent Framework。這是針對 Foundry 該功能的公告,不代表所有結合代理程式的業務流程都不能使用。S24
另一方面,GitHub Copilot 不只是提供程式碼補全與聊天。它也支援把開發工作委派給代理程式,再由人審查變更的開發方式。不過,即使是 AI 產生的程式碼,仍然需要測試、漏洞與相依性檢查、授權確認以及核准。開發者的責任不會因此消失。S02, S16
把這些串起來後,會形成什麼流程呢?在 Build 2026 展示的 Microsoft Agent Platform 中,方向是:在 GitHub 建置、在 Foundry 執行與最佳化、由 Microsoft IQ 提供判斷與回答依據,最後在 Teams 或 Microsoft 365 等場景中使用。
連接時,會活用 MCP 的工具連接、A2A 的代理程式間協作等開放式方法。不過,單純使用共同協定,並不代表存取權設定與稽核也會自動完成;這些仍需另外設計。S02, S07
你或許會想問:「Microsoft 的 AI 只使用某一種模型嗎?」Microsoft 明確表示,會組合使用 OpenAI、Anthropic、Microsoft 自家模型、開放模型與產業特化模型。這被表達為 model-diverse、open、heterogeneous。也就是選擇多樣化模型,並把不同技術組合起來使用。
因此,使用 OpenAI 與開發自家模型並不是對立的戰略,兩者都是為了增加符合客戶用途的選項。S03, S11, S18
自家開發的 MAI 系列中,已發表涵蓋推理、程式碼、影像、語音等用途的模型。
模型:
調校:
例如,MAI-Thinking-1 在 Build 2026 的發表時點是 Foundry 的私人預覽。這裡同樣要分開確認:模型有沒有發表、是否已內建到 Copilot、以及面向開發者的 API 是否已正式提供,這三者是不同的。S02
活用企業專屬知識的方法,不只有透過搜尋做根據附加。Build 2026 也發表了 Frontier Tuning,可根據客戶資料、專業知識與業務流程,在合規邊界內套用強化學習。發表時為私人預覽。它是一種與一般搜尋或記憶不同、需要明確選擇與組態的模型最佳化機制,並不是一導入就會自動開始學習,也不是所有客戶都能使用。S02
那麼,該怎麼選模型呢?不要只看基準測試排行,而是要用實際資料,從以下觀點評估:
另外,「開放」這個詞也要注意。它不代表全部都是開源,也不代表可以無條件使用任何你喜歡的模型。而且,若更換模型,可能還需要修改實作並重新評估。要讓模型容易移轉,應把業務邏輯、模型呼叫、搜尋、工具與評估資料分開設計。
除了模型選擇,也需要思考 AI 要在哪裡執行。Azure 是包含運算、儲存、網路與資料庫在內的 AI 執行基礎。Microsoft 不只投資模型與應用程式,也投資基礎架構,例如用於推論的自家加速器 Maia 200。這是為了改善效能與營運效率。不過,這不代表會保證特定客戶降價,或保證有足夠容量。S21
有些業務想利用雲端的規模與彈性;也有些業務基於降低延遲、或滿足資料治理需求,會考慮本機執行。可依所需模型、硬體、連線性與營運責任,評估 Windows 的代理程式執行環境、Foundry Local、Azure Local、Microsoft Sovereign Cloud 等方案。S02, S17
不過,在公用雲端、主權雲、私有雲與本機各環境中,並不是每個功能都能使用。請不要把歐洲的提供條件直接套用到日本,也不要說雲端的 Copilot 可以直接完整離線使用。
當代理程式導入業務後,就需要掌握誰是所有者、可存取哪些資訊,以及正在執行什麼處理。支援這項管理的就是 Agent 365。
Microsoft Agent 365 是用來觀測、治理與保護代理程式的控制平面。 它支援相容代理程式的可視化、註冊、所有者/權限/風險管理,以及在支援範圍內的生命週期管理。可使用的管理操作會因代理程式種類與連接方式而不同。面向商用版已於 2026 年 5 月 1 日正式提供。S04, S05
另一方面,Foundry Control Plane 是從 AI 開發與營運的角度,管理模型、代理程式、工具、評估與使用量的基礎。 它與 Agent 365 管理的部分範圍有所重疊,但不是同一個產品。要把企業整體的 IT/資安管理,與 AI 應用程式的開發/執行管理串連使用。S12
不過,Foundry Control Plane 的概念與功能雖然已提供,但根據確認結果,Foundry 入口網站中 Operate 內的 Overview、Assets、Compliance,以及部分監控與 guardrail 功能仍是 Preview。請不要把整個 Control Plane 認定為 GA(正式提供)。S24
搭配這些一起使用的主要管理與保護機制如下。
管理對象主要角色Microsoft Entra使用者與代理程式的 ID、驗證與存取控制Microsoft Purview資訊保護、DLP、稽核、保留與法遵Microsoft Defender威脅偵測、風險掌握、回應與保護Microsoft Intune相容裝置與本機執行環境的管理Microsoft Sentinel / Security Copilot安全營運中的關聯分析,以及調查與應對支援Agent 365 不僅支援 Microsoft 產品,也把管理範圍延伸到合作夥伴與其他平台的代理程式。不過,使用時有註冊、連接、計量與相容平台等條件。另外,在 5 月的發表中,與 AWS、Google Cloud 的註冊同步等功能仍屬預覽。並不是所有代理程式都能在什麼設定都不做的情況下被完全管理。S04
談到資料保護,大家應該會在意「把公司內部資訊輸入進去沒問題嗎」。要回答這個問題,必須分開確認是否用於訓練、是否保存、存取權與處理地點。以下按常見問題整理主要確認事項。
常見問題正確說明輸入的公司內部資訊會被拿去訓練基礎模型嗎在組織版 Copilot 的 Enterprise Data Protection(EDP,企業資料保護)適用範圍內,提示、回應與透過 Microsoft Graph 的資料不會用於基礎模型訓練。Foundry 的 Models sold by Azure 也聲明不會在未經許可或指示的情況下用於基礎模型訓練。適用範圍不會一律擴到所有產品或外部服務。若是另行簽約的模型,需確認其條件。S13, S14, S22如果不會用來訓練,那資料就不會被保存嗎訓練用途與保存/處理是兩回事。Copilot 的歷史記錄/稽核、代理程式狀態、上傳檔案、以及依設定而定的不當使用監控等,都可能產生保存與處理。需要設計保留、刪除、稽核與存取。S14, S15有權限就安全嗎Copilot 會尊重既有權限,但不會自動把過度共享的資訊修正到適當程度。請檢查分享範圍與最小權限。對於自家代理程式,也要確認是委派存取還是應用程式本身的權限。S04, S13全部都在 Microsoft 365 / Azure 內完成嗎會依 Web 搜尋、外部工具、第三方代理程式與模型提供形式而不同。Bing 搜尋查詢有另外的資料處理條件,外部代理程式的條款也要確認。S13, S15選日本區域,處理也一定在國內嗎儲存位置與推論處理地點是不同的。Foundry 的 Global 可能在其他地區處理,DataZone 則可能在指定區域內處理。Copilot 也要依服務與模型確認承諾與例外。S13, S14Foundry 的模型都具有相同保護與合約嗎Models sold by Azure 與合作夥伴/社群模型之間,提供者、處理方與條件都不同。請確認 model card、資料處理條件與部署方式。S11, S14特別是截至確認時點的 Copilot EDP 文件中,明確列出了以下例外:
也就是說,就算能選模型,也不代表資料主權相關條件也相同。請依所使用的模型與處理路徑逐一確認。S13
Copilot 中使用的 Anthropic 模型,依提供形式不同,合約與資料保留條件也不同。 作為 Microsoft 資料處理再委託方(subprocessor)所提供的模型,原則上適用 Microsoft 的 Product Terms 與 Data Protection Addendum(DPA)。另一方面,標示為「Anthropic models with Data Retention」的模型,則是由 Anthropic 作為獨立處理者,適用 Anthropic 的商用條款與 DPA。S22
一般的 Anthropic subprocessor 模型,依地區不同,預設啟用/停用狀態也不同。另一方面,標示為「Anthropic models with Data Retention」的模型,在所有適用環境中預設為停用。 管理員必須明確啟用,指定適用使用者,並同意 Anthropic 的商用條款與 DPA。詳細內容請參考官方文件「Anthropic models in Microsoft Online Services」。
在 Data Retention 提供形式下,Anthropic 會將大多數一般輸入與輸出保留最多 30 天。若偵測到可能違反使用政策的情況,內容最長可保留 2 年,而信賴性/安全性分類分數最長可保留 7 年。雖然據稱不會在未明確允許下用於模型訓練,但「不拿去訓練」與「不保留」是兩件不同的事。不要只看模型名稱,請確認套用於組織的提供區分與畫面上的顯示。S22
不能把這種 Copilot 的合約分類直接套用到 Foundry 的 Claude 模型。Foundry 中是以合作夥伴/社群模型的形式提供,需另行確認該模型的 Anthropic 商用條款、DPA 與資料保護文件。S11
Microsoft 的 Responsible AI 有六項原則:公平性、可靠性與安全性、隱私與安全、包容性、透明性、問責性。重要的不只是把這些原則當理念,而是要落實為影響評估、風險量測、開發與發布前審查,以及持續監控。S16
在實際業務中,必須預先考慮錯誤回答、錯誤引用根據、Prompt Injection、非預期操作、資訊外洩與偏差等情況。透過搜尋提供回答根據、或使用安全過濾器等方式可以降低風險,但不能保證完全歸零。
例如,在進行付款、契約、對客戶承諾、對外傳送機密資訊等操作時,應依業務風險設計核准流程、可執行範圍、金額上限、稽核與撤銷/復原方法。就算是人工確認,也不能只是「有人看過就好」。請明確定義確認者所需的專業能力、可用時間與責任。
Microsoft 的服務認證與管理機制,能協助客戶遵循法規。但它們不會自動保證個別業務一定符合法規,或生成內容一定正確。另外,Customer Copyright Commitment 也是根據適用服務與既定條件而定。請注意,它並不是對所有輸出都無條件保證沒有權利問題。S13, S16
到目前為止說明的機制,實際上可以用在哪些業務呢?以下整理各業務的組合範例與用來確認成果的指標。這只是組合與評估的示例,並不保證只要導入產品就能得到這些效果。
業務對客戶傳達的價值組合範例成果與品質指標員工/人事減少查找規定與內部流程的負擔Copilot、Copilot Studio、公司內知識解決率、回答根據正確性、轉交人工處理比例業務銷售串接客戶資訊、商談歷史與文件,協助提案準備Copilot、Work IQ、Dynamics 365商談準備時間、CRM 品質、
原文出處:https://qiita.com/yoshioterada/items/c42534895d5ca89b91b1