台灣企業部署 AI 模型最挑戰的3件事（含升級建議）

延續上一篇《 最新調查｜台灣企業 AI 成熟度現況與導入 AI 三大基本面》後，本篇內容繼續《2022 台灣企業 AI 趨勢報告》後半段的精華摘要，點出台灣目前企業落地 AI 的挑戰、隱憂、未來 AI 科技導入與應用趨勢、如何開始升級到下一階段 AI 成熟度等級建議

具體來說，你一定有問過以下四問題：

1. AI 落地挑戰：你遇到的挑戰是不是其他企業也有同樣狀況？
2. 除了挑戰外，管理層或執行團隊內心最擔憂是什麼？躊躇不前的原因？
3. 如果你沒有以上問題，接著你可能會問：「未來 AI 主要應用還有哪些面向？」
4. 處在不同階段的企業該優先關注的事情都不一樣，「如何開始逐步升級？」

給正積極關注 AI 導入議題的你，閱讀本文後，也建議親自下載詳讀！

一、企業 AI 落地挑戰

這部分可依照企業是處在導入 AI 的早期還是成長階段，會有不同主挑戰

早期階段的主挑戰有：

1. 數據收集、了解數據
2. 驗證具價值的商業用例
3. 人才供應

這部分可以回顧上一篇《 台灣企業 AI 成熟度現況與導入 AI 三大基本面》第二大段的內容說明

成長階段的主挑戰有：

1. 擴大規模
2. 資料科學家的表現
3. 模型性能監測

▸ 模型成效管理是最大挑戰

對於已經在第 6 級 AI 成熟度的公司而言，這項挑戰的比重佔了30%，因為隨著企業擴大其 AI 業務，更多模型被部署在各環節中，企業越來越關注：

1. 如何重新訓練這些模型 Model Retraining（20.9%）
2. 如何監測這些模型的運行狀況 Model Health Check (18.3%)
3. 模型可再現性 Model Reproducibility (14.9%)
4. 如何透過模型版本控制 Model Version Control ，將控制措施落實到位以確保模型的完整性與安全性 (13.4%)

當企業積極擴大他們 AI 業務時，若沒有妥善處理上述問題，這些積累將會反過來壓迫企業導入 AI 功效，若問題沒有得到改正，將會遇到瓶頸，並可能因此出現大規模系統和流程崩潰。

跟所有軟體開發一樣，AI 正經歷持續開發與優化的階段，特別是 AI 模型，模型的性能會隨著生產變化和營運模式轉變而發生變化。

一個看似完美的模型建立後，不能保證未來新的資料加入後，模型依舊表現良好，所以「衡量模型是否保持高效能與準確度」是很重要的事

是否有能力在上線後，持續去追蹤模型的品質，這點是企業在一開始評估更好的技術解決方案、流程或平台時，最不能疏忽考量的提問。

▸ 對模型和團隊性能的持續監測已成為主要焦點

雖大多公司仍處於起步階段，但越來越多公司正尋求開發工具來滿足這一需求，避免服務與流程中斷並導致不良預測與耗損。

這是一個必須要內建在整個工作流程內的 Feedback Loop 反饋機制，要如何把一個反饋機制設計到模型開發上會是評估 MLOps 工具時需要考量的點  Source : O’Reilly 媒體訪談 Dataiku Data Scientist

▸ 綜合建議 AI Checklist / Best Practices

1. 尋求導入具有追蹤數據和性能變化能力的 MLOps，能不斷更新數據和模型的版本，為 AI 團隊監測當前性能與潛在異常情況
2. 當部署模型後，需要真的有一個明確到位的作戰計畫，如何去追蹤模型的品質，不是只有像是準確率這樣的單一指標
3. 模型上線後，要從營收的角度去看到底會帶來多少價值，而不是只看模型準確率本身
4. 要確保模型可以在不影響商業營運的情況下，模型可以無縫被更新、被重新部署，不會有停機時間

二、企業導入 AI 的 8 項擔憂

對很多企業來說，都知道導入 AI 有很多好處，除了上述挑戰外，導致可能讓很多企業依舊躊躇不前的其他擔憂包含：

1. AI 模型的可解釋性 Explainability 及其預測結果 (20%)，企業需要證明 AI 的應用是確實有效的
2. 成本（17.8%）
3. 績效衡量 Performance Measurement（17.6%)，如何有效管理與監測 AI 性能
4. 績效表現 Performance（14.1%），AI 整體性能
5. 信任（9.5%）
6. 負責任的 AI （8.9%）
7. 安全性（8.5%）
8. 道德

▸ 較高 AI 成熟度等級的公司，對「安全性」更加關注

因為在未來的自主系統中，模型可能成為駭客的一種攻擊點。任何形式的數據中毒或竄改機器學習訓練數據，都可能導致不準確的生產結果和危險後果。

AI 系統的網路防禦機制要能抵禦各種形式攻擊，必須確保網路、設施、所有端點都是安全的，才能保證數據與模型的完整性與可用性。

▸ 綜合建議

• 專家鼓勵對組織內的 AI 用戶進行良好培訓，以了解並確保模型安全，包括定期檢查數據完整性和任何有問題的數據流
• 讓法規團隊一同參與，共同制定相關保護政策，以建立數據治理委員會來監督這些行為

三、MLOps 將在未來2年內成為企業優先導入的科技

這部分探討的包含：

1. 企業導入 AI 的應用趨勢
2. 科技導入趨勢

▸ 創收部門仍是企業 AI 導入重點

預計未來1-2年內，製造部門、銷售、行銷等創造營收的部門仍將是企業導入的重心。

此外，也會更著重運用在營運安全與數據治理方面，企業將大幅度依靠 AI 檢測網路與終端活動的異常，並檢測隱藏在系統的惡意軟體。

▸ 科技導入趨勢：MLOps 上升到企業計劃導入的首位

MLOps 平台會在未來 1-2 年成為企業導入首選的原因，來自上述提到的挑戰與擔憂。

MLOps 平台能提供一套解決方案，為組織創造一個「標準化且可拓展的工作流程」，並提供數據與模型的版本管理，並提供工具來「衡量生產中模型的性能」

➜ 延伸推薦： 具備跨職能協作的 MLOps 領導平台｜Dataiku | 一站式從 DataOps 到 MLOps ，No-code 到 Full-code 設計都可以

此外，導入 RPA 機器人流程自動化也受到重視，尤其是勞力密集型產業（製造業、石油、天然氣、化工業、銀行與金融業）

這些勞力密集型產業在 2022 年的最大目標之一，就是使用系統自動化，來大量減少時間與成本，還可提高流程的一致性，同時消除人為錯誤。

➜ 延伸推薦：RPA全球第一品牌 UiPath ｜UiPath 終極目標是讓那些有意持續打造營運競爭力的企業，使他們的員工有能力設計自己的工作流程可以部分轉為自動化運行，同時提供企業集中式監控與控制服務

四、邁向下一等級 AI 成熟度的建議方向

這部分探討的包含：

1. 從等級0 ➜ 1 : 組織結構調整
2. 從等級1 ➜ 2 : 實現數據的全民可及性
3. 從等級2 ➜ 3 : 快速實驗、建立跨部門的 AI 專案小組、由簡入繁快速取勝
4. 從等級3 ➜ 4:  落地運行，建立平台、流程與政策以進行管理
5. 從等級4 ➜ 5 : 百花齊放，更廣泛的與更多專業化工作小組
6. 從等級5 ➜ 6 : 全民 AI，AI 不再是一個上層下達的命令

▸ 從等級 2 到等級 3 : 快速實驗

最重要的兩件事

1. 建立跨部門的 AI 專案小組：

一開始就把重要的 Stakeholder 納入團隊，團隊成員一開始需要具有廣泛技能、熟悉主題的主力成員，再加上理解 IT 與軟體開發的技術專家，而資料科學家可以逐步加入團隊中來運行實驗。

2. 由簡入繁，快速取勝：

早期的實驗應該專注單一的案例，且這些案例是可以迅速證明 AI 導入的商業價值，從而建立信心並擴大部署。

在執行上，可以參考產品管理中的 MVP (最小可行性產品) 的概念，先從「對當前業務營運影響最小、成功概率高」的項目開始。

▸ 從等級 3 到等級 4 : 落地運行

根據今年的研究，大多數受訪者都關注「如何衡量、如何管理模型與 AI 項目表現性能」

專家們提出的建議是

1. 建立平台、流程與政策以進行管理
2. 導入 MLOps 平台來管理模型及其運作的各層面，去確保政策跟流程確實落地並在正確軌道上運行
3. 擴大團隊規模：當公司開始嚐到實驗成功的一個甜果時，是時候加快開發和部署了。公司應引入更多業務運營專家來加快這一進程

▸ 從等級 4 到等級 5 : 百花齊放

最重要的兩件事

1. 更廣泛的團隊與更多專業化工作小組：

隨著 AI 產生的成果在整個企業中得到推廣與認可，更多的業務單位和職能部門將希望參與這類項目來加快實現其目標。這將在企業內部激發出一種內驅動力

此時，應該讓更多業務部門加入到這計畫中來，可從原來的 AI 團隊中分離出新的任務小組，擴散到組織中的其他業務部門，來宣導並傳播他們的專業知識和經驗

這些技術小組會在這些交流中發展出更專業化技能，之後能開發出以企業整體架構為中心的解決方案

至於組織內 AI 工作小組與團隊的營運模式（Operating Models for AI initiatives）又是另一個很重要的議題，關乎組織內的 AI 策略是如何被落地的，以及能否規模化、能否持續取得 AI 成功的關鍵之一

簡單來說，組織內的 AI 團隊營運模式會不斷演進，從 Ad hoc 開始，到很常聽到的 CoE (Center of Excellence) ，而第三種方式則是 Hub and Spoke 模式，樞紐放射狀的佈局模式

2. 穩定你的技術堆疊：

由於在上一階段已形成SOP流程，基礎架構與技術堆疊(Tech Stack) 在這一階段將具有一定的穩定性

一個穩定的技術堆疊應該考慮模組化的設計，能隨著環境的變化，允許測試和採用新的軟體和解決方案。整體堆疊可保持高度彈性，新產品不斷湧現，老產品快速退場。

因此，企業必須多加關注新的相關技術，以確保整個系統是在最新狀態。

▸ 從等級 5 到等級 6 : 全民AI

當到達第六級水平的時候，AI 不再是一個上層下達的命令，而是組織成員自下而上自主的推動 AI

組織及其管理層只需要提供團隊所需的數據和技術，並構建成員日常工作量需要的應用程式來實現這目標

這樣的自發性創新對整個組織至關重要。

在這階段，企業將不再把 AI 視為一個獨立的倡議，AI 已經深化為組織的DNA一部分，所有員工，從上到下，都在利用已開發的應用程序來協助他們的日常工作，許多模型已經投入生產，使管理層能夠超越他們的競爭對手

企業領導人應繼續建立和宣揚擁抱 AI 文化，不斷促進開放的跨部門合作

企業也應不斷幫助員工提高能力，利用這些技術來提高他們的工作效率和工作流程。

五、重點回顧與補充

這兩篇精華摘要文章，我們從了解 0-6 階段的企業 AI 成熟度等級開始，了解到不同 AI 營運成熟等級要著重的點各有哪些

以及目前絕大多數企業在 AI 專案項目落地、規模化擴展、長期營運的方向上，遇到的挑戰與擔憂有哪些，並不斷提及 MLOps 會是企業加速 AI 落地與取得長期投資報酬率的關鍵，也是企業未來2年內會重點導入的科技之一

▸ 有建立 MLOps 最佳實踐的企業將取得長期高投報

最後另外補充 Gartner 這近年10大科技趨勢報告中的數字

在 Gartner 2021 年10大趨勢報告中，AI Engineering 被列在裡面，廣義上來說也是我們講 MLOps，報告中提及在有 AI 經驗的企業中，只有 53% 的AI專案有成功從 Prototype to Production

而在 Gartner 2022 年 10大趨勢報告中，AI Engineering 依然被列在裡面，而其中提到了另一個統計數據

到了2025年，有建立 AI Engineering Best Practice 的企業，相較於那些沒有建立Best Practice 的企業，將從他們的 AI 投資中獲得更高的價值，且這差距至少會有3倍以上

By 2025, the 10% of enterprises that establish AI engineering best practices will generate at least three times more value from their AI efforts than the 90% of enterprises that do not.

還沒了解導入 AI 的基石？

機器人流程自動化RPA

前往了解

快速了解 Dataiku平台

系統化從DataOps到MLOps

前往了解