人工智慧金融法制的發展與架構（下）楊岳平教授 我國人工智慧基本法所稱人工智慧(AI)，指具自主運行能力之系統，該系統透過輸入或感測，經由機器學習及演算法，可為明確或隱含之目標實現預測、內容、建議或決策等影響實體或虛擬環境之產出。AI的發展從初期開發依邏輯規則推論之通用電腦系統、依專業領域專家之知識作答之專門電腦系統，到機器學習階段不事前植入規則而讓機器由資料與答案中尋找規則，其自行學習與演算使人類開發者難以掌握其決策過程，決策黑盒子問題帶來不可控的風險。「可解釋人工智慧」係為應對不透明的問題，經由師徒模式、線性模式、特徵重要性分析、局部代理、SHAP值及反事實解釋等方法，探究人工智慧決策的主要因素。 相較於一般產業，金融業人工智慧法治的制度發展較為領先，由於具高度監理與風險管理之特性，2024年金管會發布「金融業運用人工智慧(AI)指引」，提供金融業者於導入及使用AI時的注意事項，雖屬行政指導性質不具強制力，仍具重要參考價值。指引說明AI系統生命週期，包括系統規劃及設計、資料蒐集及輸入、模型建立及驗證，以及系統佈署及監控四個階段，要求金融機構建立風險評估與風險管理制度，透過量化評分方式評估人工智慧的風險程度，並依風險高低採取不同管理措施。由於市場上能提供AI技術的廠商有限，多數金融機構可能使用相似的演算法或系統，導致決策結果過度一致，造成特定族群被系統性排除的情形，因此金融機構在委託第三方業者時，應評估相關風險。指引亦提出金融AI治理的六大核心原則，包括建立治理問責機制、公平性、隱私、資通安全、透明性及永續發展。本課程從人工智慧的定義與發展、立法脈絡到金融監理實務，系統性梳理AI於金融領域的法律規範。