作為一位在數據科學領域工作多年的從業者，我深刻體會到，當我們試圖以 AI 解決問題時，若將 AI 作為核心來設計 IT 解決方案，往往會導致失敗的風險顯著增加。
特別是在數位轉型（DX）的動機下，許多企業以「我們也要導入 AI，善用數據！」的想法為出發點，從一開始就將 AI 視為解決業務問題的核心。然而，這種方法常常導致失敗的可能性大幅上升。
接下來，我們將探討為什麼以 AI 為中心解決業務問題可能會增加失敗的概率。
1. AI 是眾多構成技術中的一部分
首先，我們需要理解，在 IT 領域中，AI 和數據科學只是與網路、資料庫等技術並列的眾多構成技術之一。
單靠 AI 本身無法直接為業務創造價值，它的運作需要依賴整個系統的支持。然而，從整體系統的角度來看，AI 僅佔其中的一小部分。
舉例來說，假設某家製菓工廠（點心工廠）希望利用 AI 檢測系統，從生產線的影像中辨識不良品。為了實現這個目標，整個系統需要以下構成要素：
- 支持系統運行的伺服器；
- 用於拍攝產品影像的攝影機；
- 保存產品批次和相關資訊的資料庫；
- 供檢測人員操作的使用者介面（UI）應用程序；
- 運行 AI 模型的軟體；
- 各模組之間的網路連接；
- 如果 AI 模型在雲端運行，還需考慮雲端的安全性；
- 若需要機器手臂自動剔除不良品，則系統的複雜度將進一步增加。
由此可見，構建 AI 檢測系統需要大量非 AI 的技術和專業知識（最重要的是構建整個檢測系統的能力）。此外，這類結合硬體與軟體的系統通常需要多家開發公司合作，因此在整理和協調需求規格時，工作會變得非常困難。
然而，如果從一開始就以 AI 為中心進行設計，通常會忽略這些基本需求，導致開發過程中無法保持整體一致性，最終可能導致項目的失敗。
即便 AI 技術如今已廣泛普及，仍有許多專案在需要強調各技術要素平衡時，讓 AI 占據了過多的關注，從而忽略了其他重要的系統需求。這種「以 AI 為主角」的做法，可能會讓整個專案陷入困境。
2. 在 AI 概念驗證（PoC）之前，需先確認系統對 AI 的需求
在涉及 AI 的專案中，第一步通常是進行 PoC（Proof of Concept，概念驗證），以檢驗 AI 模型的準確性。
這是因為 AI 在所有技術中具備最高的不確定性，也就是說，AI 經常無法滿足需求，從而變得無法實用。
在 IT 領域中，不確定性通常是開發過程中最令人忌憚的因素。系統需要對所有輸入條件給出符合預期甚至超出預期的輸出結果，而不確定性則可能導致無法預測的錯誤（即所謂的「Bug」）。
用戶對系統錯誤的容忍度極低。無論系統多麼先進，只要存在 Bug，便會被視為毫無價值。
因此，對於開發者來說，確認 AI 的性能是一種保障。如果在其他開發工作完成後才發現 AI 的性能無法達到預期，那麼之前投入的開發成本將付諸流水，因此必須儘早進行 PoC。
然而，即使進行了 PoC，AI 仍然可能犯錯。不確定性無法完全消除，其錯誤率可能從幾個百分點到數十個百分點不等。關鍵在於，系統是否能在操作上對這些錯誤進行容錯處理，確保整體的協調性。
有經驗的數據科學家通常可以根據數據和任務，定性地預測 PoC 能達到的最佳準確度（但最低準確度則難以預測）。如果在最理想的情況下預測的準確度，無法讓整個系統的價值超越開發成本，那麼這樣的專案就沒有執行的必要。
此外，AI 的開發成本本身也充滿不確定性，並且在實際運行後還需要進行再訓練和維護，這些都會增加額外的成本。因此，除非財務上有充分的裕度，否則不建議輕易實施 AI 專案。
3. AI 的高不確定性使其並非一項強大的技術
所有的新技術都伴隨著一定程度的不確定性。然而，在 IT 領域，不確定性不僅會導致專案失敗，還可能對該系統支援的業務本身造成負面影響。
為了應對不確定性，業界開發了多種方法。例如，AI 系統開發中常用的敏捷開發（Agile Development）方法，就是為了減少不確定性對業務的負面影響，並提升專案成功的可能性。
然而，從定性的角度來看，AI 的不確定性遠遠高於其他新技術，因此很難將其視為一種強大的 IT 技術。
儘管當 AI 發揮作用時，其效果可能非常顯著（我本人也為 AI 的潛力深深著迷）。但由於其極高的不確定性，AI 的實際應用價值往往被大大削弱。
因此，如果可以用其他方法解決問題，應優先選擇其他方法。然而，許多企業或個人往往帶著「希望使用 AI」或「想導入 AI」的私心，這會影響他們的判斷。
4. AI 的使用應限於作為系統部件時
回到我們開頭提到的「AI 檢測系統」的例子，這本質上是一個檢測系統，而 AI 僅僅是其中的一個模組或功能。
然而，在現有的開發實踐中，檢測系統的整體協調性往往被忽視，反而是 AI 的 PoC 先行，並將 AI 的需求強加於其他模組，嚴重影響整體開發進程。
是否覺得 AI 的角色過於逾越了呢？
首先，我們應該先考慮系統的整體需求，然後再考量 AI 的需求，並進一步確認 AI 的需求是否可行。因此，專案的主導者不應是數據科學家。然而，現實中，無論是系統的發包者、開發負責人還是用戶，目光都過於集中在 AI 上。
AI 作為一個部件，應該服從於整體系統的需求規範。如果 AI 無法輕鬆滿足這些需求，那麼專案便無法繼續下去，失敗幾乎是不可避免的。
總的來說，AI 已經是一項實用化超過十年的技術。在過去的十年中，AI 未能全面普及，這背後一定有其原因。因此，認為 AI 是新技術的觀點在 2024 年已不再成立。
通過反覆的 PoC 和不斷的運行維護，AI 的不確定性或許可以逐漸減少。但相比其他技術在小數點以下的精準度提升，AI 的不確定性往往達到數十個百分點，這意味著使用 AI 很可能只是在運行中累積技術負債，最終被淘汰。
AI 僅僅是一個工具，並非目標。若將使用 AI 作為目標，專案幾乎注定失敗。
未來，AI 要成為一種真正強大的工具，也許還需要數十年的時間，甚至可能人類永遠無法完全掌控 AI。如果經過充分的評估後，AI 被認為是最佳選擇，那麼這樣的專案才稱得上是合格的 AI 專案。
以上便是我的看法。
コメント