AI 公司觀察 / IBM

IBM 如何把 AI 治理做成企業產品?

從 watsonx 的模型、資料與治理工具出發,拆解企業如何追蹤模型版本、上線驗收和改版責任。

發布日期:

IBM 標誌

模型可以上線,誰能說明它為什麼可以上線?

一家大型企業準備推出內部客服助理。資訊部門已經接好模型,專案團隊也拿幾十個問題測過。到了上線會議,主管追問三件事:目前跑的是哪個版本、誰驗收過、模型或資料下次改版時由誰重測。團隊找得到大部分紀錄,只是散在簡報、訊息和每個人自己的試算表。系統因此還不能按預定時間放行。

這類成本容易在早期試做時被忽略。當企業同時有客服、文件摘要與內部決策輔助等應用,每套各自保存紀錄,久了就很難知道哪一套可以續用、哪一套已經變更。IBM 把這段工作做進 watsonx.governance,試圖讓企業能用共同方式管理模型和使用情境。

2023 年,IBM 為什麼把模型、資料和治理一起推出?

IBM 在 2023 年 5 月公布 watsonx,把它定位為面向企業的 AI 與資料平台。產品包含開發模型與應用的環境、資料基礎設施與治理工具。同年 9 月,IBM 公布首批 Granite 模型正式可用,11 月則宣布 watsonx.governance 將在 12 月初正式提供。這幾個公布時點能看出 IBM 的取捨。它一方面要讓客戶有模型可用,一方面希望客戶在擴大使用時,能把追蹤與驗收納入同一套工作。

假設客服團隊開始測模型,只需一個工作環境就能先取得結果。但若接下來想讓十個部門共用,正式管理還得知道每個系統使用哪些資料、由哪個部門負責,以及各自在什麼條件下允許上線。這些資訊有一部分在模型裡,有一部分是公司對應用的判斷。IBM 把 AI、資料和治理放在同一個產品架構下,想承接的正是這些需要跨部門協調的工作。

治理工具實際要留下什麼?

拿前面的企業客服助理為例,可以為它建立紀錄,保存用途、負責人、所用模型和版本、上線前的評估結果,以及需要人工接手的情況。更換模型時,啟動一輪新的測試,並把新舊差異和簽核留在同一個地方。發生客訴時,維護人員就能回查當天的系統版本,重新跑一次相關案例。

工具能協助整理證據,也能讓審核進度更容易追蹤。企業還要自己界定可接受的結果。客服助理應該讀哪些文件、遇到敏感資料要交給誰、測試多少例外才足以放行,都需要負責部門做決定。若企業只是把舊試算表搬到新介面,卻仍然沒有一個人有權決定要不要停用,工具解決的主要是找資料的速度。責任和處置方式得透過實際演練定下來。

客戶為什麼願意付費?

對只做一個小工具的團隊,簡單的文件、測試檔和審核清單可能已經足夠。較有付費理由的,是同時有多套應用、要跨部門審核,或得反覆回覆內部稽核的人。這些企業想知道目前有哪些 AI 在運作、誰簽了放行,以及改版時哪些人應重新確認。當每季都要重做盤點,讓同一筆證據可重用就可能省下工程、法務和審核人員的時間。

IBM 在 watsonx 發布時也同時提到顧問服務與外部模型合作。平台可以提供盤點、評估與記錄的工具,顧問專案則能協助組織把制度、資料與技術接到既有環境。對 IBM 而言,這是把軟體與企業服務放到同一個採購問題裡。產品的成效仍要看客戶是否能拿實際案例演練,也要看它能否涵蓋既有的模型、資料來源和部門工作。

如何驗收一套治理流程?

先選一個已經上線的系統,再拿一筆真實變更跑完流程。例如新版模型答得比較快,但對公司政策的引用偶爾不完整。提出更換的人要能找到舊版測試、重跑高風險題目,把差異交給有權限的人選擇,最後留下一份可回溯的決定。若變更後錯誤率上升,也應知道誰有權暫停服務並恢復到原配置。

採購時可以分開量三件事。盤點一套應用要多久,變更後要多久才能重新驗收,隔月再查同一項決定時能不能找到完整證據。若需要新增許多手工登錄,應把這部分成本一起納入。如果既有系統已能留下大部分資訊,也可以先看最缺的是審核流程、資料追蹤,還是監測。

回到上線會議,有價值的結果是主管問起版本、負責人和驗收,團隊能在當下找到答案,也知道何時該叫停。IBM 的機會在於把這些原本靠專案人員補齊的工作,做成可以反覆使用的企業能力。部署是否值得,最後應由一次完整的模型變更驗證。

延伸資料

查看公司專欄

LINE 洽詢