從 TechDays 停辦與新冠疫情後,已不知道多久沒參加過實體研討會,上回出席彷彿都是民國初年的事了。週末滑手機 FB 跳出推廣貼文,發現微軟在 3/10 有場 Microsoft AI Summit Taipei,主題是 AI Agent 跟 Copilot,感覺能看看官方視角的 AI 應用架構增廣見識也不錯,不過剩沒兩天 AI 議題又熱門,不確定能報到,但還是隨手填了資料報名。週一早上收到確認,久違的研討會,我來惹。

thumbnail

先簡單為本場研討會定調:全程新名詞連發,各式新圖示狂刷,一整個資訊大爆炸。主軸聚焦企業 AI 應用與治理,有一些 Agent 應用與管理武器展示,額外收獲是聽到珍貴的企業 AI 實踐經驗分享。

本場研討會的主軸是 Frontier Transformation 前沿轉型,是微軟去年底到今年初正式提出,熱騰騰的新概念,我把它解讀成它是指企業引入 AI Agent,深度改變與客戶互動、團隊協作,甚至營運模式,讓企業轉型為 Frontier Firm (前沿企業),將 AI 從單純的輔助工具提升為企業核心的運作模式。

但必須先說,如果你單純只是 AI 使用者或開發者,不用煩惱 AI 應用在企業如何落地,而可觀測性、合規、治理這類名詞跟你也沒啥交集,那本場大部分內容會讓你覺得無趣,因為你不是 Target Audience。AI 治理跟在企業內部開發、推動與管理 AI 應用的人比較有關係,圈外人整場大概只會對 Frotier Bakery 鳳梨酥展示跟企業應用實例兩段感興趣。

本次的 Slogan 是 Intelligence + Trust,除了大家耳熟能詳的應用 AI 賦能提升效率之外,要再加上安全與合規! 後面這兩項是個人運用 AI 時不太在意,卻是企業推動前必須先面對的重大難題,而安全與合規的落實,亦為 AI 治理 (AI Government) 的重點。在 AI 治理領域,微軟是走得比較快的廠商,證據是在 IDC 等多項評比目前微軟都居於領先地位。


來源

下面這張圖涵蓋本次幾個關鍵名詞:

  • 講者給了一個比喻:把 AI 想成頂大畢業的優秀新進員工,能力強但對公司業務一無所知,要如何培訓使其發揮戰力?可以從三個方向著手:了解公司組織狀況,理解人員工作方式、協作對象與內容 (員工如何工作)、營運數據與資料 (企業如何營運)、企業知識與規則 (Agents 如何存取知識),三者分別對應 Work IQ、Fabric IQ、Foundry IQ
  • Work IQ - 團隊角色與工作流程,以 Microsoft 365 為中心,允許 AI 整合 Outlook、Word、Teams、OneDrive 等工具中的郵件、文件、會議紀錄與聊天內容
    (以 Work IQ 為基礎,MS365 陸續推出 Researcher、Analyst、Skills Agents、Survey Agent、Facilitator、Interpreter、Agents in Channel、Project Manager、Agents in Communities、Knowledge Agent... 等一堆 AI Agent)
  • Fabric IQ - 企業狀態與業務行,將散落各地的數據資料 Mirror 匯集為單一資料來源 (OneLake),方便存取與管理
  • Foundry IQ - 組織累積的制度與知識,透過統一的平台運行與管理數量龐大的 AI Agent
  • Work IQ + Fabric IQ + Foundry IQ 三者統稱為 Microsoft IQ (微軟行銷部門應該有人得了一種不創造新名詞就會死的病,快找人去阻止他啊啊啊~~~)
  • Agent 365 - 預估到 2028 年,全世界的 AI Agents 數量預期會高達 13 億隻,一個企業內可能就有數百到數千個 Agents 運行,如何妥善管理是個好問題。Agent 開發完成上線後,事情才剛開始,如何有效管理是一項大挑戰,其難度不下於開發。營運人員必務掌握 Agents 的健康狀態、使用頻率、彼此依賴關係、存取資料權限、活動記錄、是否符合法規與資安要求... 這些繁瑣作業可歸為 AI 治理的範圍,Agent 365 的目標便在於協助 AI 治理的簡便平台

依我的理解,Agent 365 是一個統一管理企業內部所有 AI Agent 的平台,每個 AI Agent 在開發完成上線時,需向 Microsoft Entra (原 Azure AD 改名) 註冊一個 Agent ID,從此 Agent 像一名新進員工,有自己的帳號、所屬部門及主管,可被加入群組,有信箱,可收發信、參與 Teams 會議,甚至有自己的 OneDrive 空間。

將 Agent 比照人員處理有不少好處:

  • 權限管理上可比照人員帳號,授與或禁止特定資源的存取權限,對文件、資料夾、資料庫、資料表等各種資源的既有權限機制可直接套用到 Agent
  • 帳號的啟用、停用、刪除操作比照人員帳號,共用相同的管理介面、Log 與稽查機制,不需額外設計學習,也可以使用 Graph API 查詢管理
  • 向 Entra ID 註冊後,有了統一的地方可以查詢、檢視與統計組織內所有的 Agent,方便管理

Agent 365 沒有獨立的入口,會以功能方式整合在 Microsoft 365 (原 Office 365) 管理介面,多了一個 Agents 選單:

除了管理與檢視 Agent 帳號,在可觀測性上,可提供 Agent 使用頻率、依賴關係、存取資料權限、活動記錄、風險提示、合規與安全檢核狀況... 等維運必要資訊。在合規這塊,Agent 365 內建了一些常見的國際法規檢核範本,因應各國法律不同,也可上傳自訂範本。

除了 Microsoft Entra,Agent 365 也依賴企業原本就熟悉的 Microsoft Purview 處理資料分類與標籤,落實機敏資料管理,Microsoft Defender 加增加對 Agent 的防毒與資安監控管理。

大會多次提到 Microsoft Foundry,就是上回介紹 MS Agent Framework 時提到的 Azure AI Foundry (是的,又又又又一個改名的產品或服務,看來行銷部門除了愛創名詞的傢伙還有改名狂 Orz),它提供統一的 AI Agent 運行平行,上面有超過一萬一千種 AI 模型(包含 GPT、Claude、Grok,亦可運行 Deepseek、Llama 等開源模型),方便部署與運行 Agent。

而本次大會最讓人驚豔的莫過於開場的 Frontier Bakery 鳳製酥缺貨事件處理的展示。模擬情境為美、日、台出現多起 101 造型鳳梨酥缺貨客訴後,處理事件的苦主先在 MS365 中使用 Copilot 蒐集整理缺貨通報確認,叫出有動態影像可語音交談的 Multi-Agent 虛擬助理 Anna (下圖最上方的頭像,看得出即時影片跟語音力求自然,但生成痕跡仍明顯),請其查看日美中的庫存狀態(整合查資料的 Agent)。先遇到權限無法存取日本庫存的問題,經請相關主管放行後成功取得資料(展示資料受權限管控保護) -> 查詢 KB 發展類似問題過去發生過,是物件 Agent 的鍋(展示集中的知識來源,知識庫查詢 Agent),問題跟程式有關 -> 叫出 Github Copilot 自動修改程式(增加呼叫第三方 API 的 Timeout,呃...)並 Commit 更新(展示 Github Copilot Coding Agent) -> 懷疑美國的缺貨問題與大風雪影響物流有關,調查後證實(展示整合天氣與 Bing 新聞 Agent) -> 請 AI 整理事件檢討報告,查看相關人員行事曆、安排會議、寄送通知 (Worker IQ)。

為補償消費者要辦促銷活動,展示利用 Microsoft Foundry 先透過 LLM 聊天產生 Flux 2 模型生成高細節與真實度照片所需的提示詞,生成符合需求的行銷照片,再用 Sora 2 生成適用於日本、台灣與美國的社群行銷短影片:

大會另一個亮點是奇美醫院與中信銀的 AI 實際運用案例分享。奇美醫院已正式運用 AI 於臨床資料整理,減輕醫護人員負擔。一開始有先嘗試地端模型,但果斷放棄(結論應跟 OpenClaw 龍蝦佐本地 AI 模型:從評估到放棄?一致,即使品質堪用,其速度會慢到正常人應該無法忍受,能忍受的人應該不正常),乖乖改用雲端。醫療資料上雲的相關規範很嚴格,選擇微軟是因為在公有雲廠商中最積極,能配合提供相關法律文件,加上原本有使用 Microsoft 365 能發揮整合綜效;中信銀的案例刖是使用 AI 實做 GenAI 顧問,在導入 AI 工具時依法規進行分析、評估及檢核,並可針對美日泰國法規調整。感覺上中信銀較偏向試水溫的 PoC 應用,奇美醫院已正式運用 AI 處理醫療相關資料(當然,部分場景資料要先去識別化)較讓人驚喜,樂見 AI 能在符合法規與安全要求的前題下,應用在更多情景,真實解決人類的問題。

最後,用這兩張圖示大挑戰做為本文的結尾,看看你認識多少個:

thumbnail


Comments

Be the first to post a comment

Post a comment