AI導入如何趨吉避凶—AI管理的五大面向
人工智慧的發展在近年持續走向產品化，整體環境不論是人力、技術、資金及政策，都相繼提出並持續支持人工智慧的發展，在產業界也大量運用人工智慧在產、銷、人、發、財，抑或是人、機、料、法、環等各種面向。
人工智慧的導入影響軟體開發及應用，原因在於傳統軟體開發和人工智慧系統開發上的差異。傳統軟體開發流程中，從開始的問題定義及需求訪談外，須經過軟體開發、測試、整合、監管及改善的流程。然而人工智慧介入軟體開發時，除了一般流程外，還需針對人工智慧技術所能解決之問題進行討論、資料工程（收集、整理、整合及標籤）、模型開發訓練及驗證後才得以進行確認，並需考量模型確認後之模型部署、應用流程監控及封裝等流程。這突顯導入人工智慧後，仍有相當多環節的議題須兼顧。下列為人工智慧導入後常見的五項管理問題。
一、開發的管理：一代接一代的模型造成了資料及模型管理問題
這波人工智慧的發展以數據為基礎，當數據累積到不同程度後，為追求更好的模型效率與準確度，開發人員會依不同時期去使用不同數據及模型結構進行重訓練。為此，便需要好的系統與機制對不同模型和資料進行管理，以利開發者可以有效並方便的去對不同版本的模型進行隨取隨用，確保實際場景使用時可將不同時期的模型切換及更新，以大量減少人工智慧工程師對模型額外管理的負擔，並可避免因管理不善造成訓練錯誤的情況。
二、監控的管理：模型做好後，必須做好監控及對模型有立即性的處理能力
上則管理議題為模型在訓練過程做出良好的管理，然而模型導入流程或嵌入軟體後，需要對模型做出再監控的動作。原因在於人工智慧為人類做出某種程度的認知判斷時，常在實驗階段表現高準備度的模型，卻會在實際導入時因為場景不同而出現問題，所以建議在應用場域中亦需建立模型執行時的監控系統與機制。
以近年大量導入製造業中的自動光學檢測（Automated Optical Inspection, AOI）為例，在實驗室訓練好的模型導入設備後，卻發生比起舊設備出現更多漏檢或過檢的情況，後來再用監控機制與系統後，才發現有AI模型因為現場工廠環境日光燈或是廠房光源的影響，造成出現許多誤判的情況。然而，若導入運用視覺化、模型偏移等監控機制，便有助於第一時間針對模型誤判的情況做出停機或是置換模型的處理，以減少生產過程中產生更多廢料。
三、檢索的管理：無形的人工智慧模型，要能適時的檢索並應用
雖然現行有許多開放原始碼的方式進行人工智慧模型的交流，但隨著公司採用愈來愈多人工智慧模型，所累積的各種實際場域模型建議要在第一時間可以跨單位及部門進行檢索及取用，由此提升及加速公司智慧化的重要管理機制。並且，如何與第三方系統或平台方銜接最適化的模型，也是公司快速建立人工智慧的方式之一。故近年知名企業－DataRobot，標榜可自動化學習，其背後就用了大量已商業化及落地實證的算法庫來協助企業快速找到合適的算法，加速公司人工智慧模型的建置，將人工智慧擴散至不同業務內容中。
四、規範的管理：人工智慧的規範逐漸出台，需有效治理及避免風險損害自身
隨著人工智慧的發展，開始出現愈來愈多數據治理、模型判斷偏見、是否具透明性等規範要求等問題。以Amazon為例，就曾因為人臉辨識的服務「Rekognition」在有色人種判讀上偏誤，選擇暫停其服務，並且自身也呼籲加強類似技術的規範和監管。對此，國際間也愈來愈多針對人工智慧要公平不偏見、負責任及倫理議題進行討論，如超過15個國家共同成立的人工智慧全球夥伴聯盟（GPAI）就將「負責任的人工智慧」及數據治理列為重要工作群組，或是美國提出「人工智慧應用監管指南」，對AI應用規定需考量10項準則，包含公平與非歧視、AI應用透明化等，顯示人工智慧的規範愈來愈受重視。
對於各種規範，已有平台運用系統管理方式，將資料自動做去識別化設計、審核模型框架及數據的出處，或是測試模型對敏感性資料的反應等。這些系統平台能夠有效控制人工智慧所帶來的風險，以避免公司在運用或發展人工智慧時，因為沒有符合規範而造成損害。
五、安全的管理：沒有百毒不侵的軟體，人工智慧模型也是
人工智慧的快速發展，讓可落地實證的模型得以用於不同場域當中。但人工智慧模型在被設計的時候，判讀的準則會受到資料、模型架構等因素影響，因此近年出現對人工智慧模型進行攻擊或誤導的手法。像是運用生成對抗式攻擊的方式來產生可干擾特定AI模型的資料，讓模型產生誤判，又或是運用大量的資料來記錄模型的反應，以逆向工程的方式偷取模型。
基於模型有被誤導或竊取的風險，除了導入上述的監管機制做為被攻擊時的即時反應外，在資訊系統設計時，可在流程中加上資料上傳的檢核機制，抑或是要使用模型時，進行人員或是身份審核等流程管理，以降低人工智慧模式的安全風險。
科技的進步與普及沒有後悔藥。企業在面臨外部競爭及內部營運效率提升的挑戰下，人工智慧成為近年重要的導入項目。但是，經常在真正導入後才發現人工智慧可能帶來福禍相倚的情況。正因為如此，更需要將人工智慧在導入後做好管理，讓企業運用人工智慧為自己帶來好的「福」，並把這樣的「福」擴散到其他方面。與此同時，也要把人工智慧可能帶來的「禍」，運用管理的方式降低，更甚至將可能的「禍」轉化成為企業競爭的「福」來爭取企業的競爭空間。
（本文作者為資策會MIC資深產業分析師 韓揚銘）