金融业运用AI指引正式出炉!业者导入、使用AI更有依循

历时将近一年,金管会终于在今日发布「金融业运用AI指引」,除了提供AI系统和生成式AI定义,也将AI系统生命周期分为4个阶段,提供业者在各个阶段中落实六大核心原则的处理机制。

生成式AI爆红后,催生出各地的AI监理法规。去年6月,金管会就表示,由于国际监理机关针对金融业使用AI的做法主要是订定指引或原则,因此,金管会也将参考这项作法,先制定内部政策,再研议订定金融业运用AI的指引或指导原则。

四个月后,金管会发布金融业运用AI的六大核心原则,分别为建立治理及问责机制、重视公平性及以人为本的价值观、保护隐私及客户权益、确保系统稳健性与安全性、落实透明性与可解释性,和促进永续发展。当时仅订定出原则方向,并未叙述导入AI应留意的实务作法。

如今,金管会发布正式AI指引,涉及AI系统实务作业的操作细节,类似一份AI操作建议书,分别说明了业者在导入AI,或使用生成式AI时,如何在4个阶段中,落实公平性、隐私保护及资料治理、系统稳定性、系统安全性、透明性和可解释性。例如,在导入AI落实公平性的建议作法中,指引分别描述了业者从系统规画及设计阶段、资料搜集及输入阶段、模型建立及验证阶段,到系统布署及监控阶段时,各阶段可采取的措施。其他的核心原则也同样依据这个方式说明建议作法。

综合规划处处长胡则华表示,目前,已有使用生成式AI的金融机构共有29家,银行业占比最多。使用场景最多是在内部作业,第二是智能客服,第三则是行销广告。

草案和正式指引差异

为了让指引能符合金融业实务操作细节,金管会先在去年12月发布指引草案,开放大众提供建议。经过六个月的讨论时长,金管会才发布了正式指引。

相较草案内容,正式指引提供更多第三方业者的监督管理方式,针对自建、委外和外购等不同部署方式增订相关内容,也修改风险评估因素的叙述方式,强调指引中的举例仅供参考,增加指引适用的弹性。

指引针对第三方业者的监督管理方式,明订金融机构运用AI系统时,可辨识自行监控风险的程度,并对自身较无控制权的部分或事项,透过契约等方式,与合作厂商明订风险监控的责任分工。例如,金融机构在使用风险较高的AI系统时,可视需要来委托具AI专业且独立的第三人进行审查、评测。

另外,指引中也明订,金融机构委托第三方业者导入AI系统相关作业时,可采取的监督管理措施。例如,就停止委托的情形,订定适当的资料或系统迁移机制等。

针对AI可解释性的范围,金管会表示,考量金融机构委外研发或购入AI系统,可能因业者商业机密,无法完全得知AI系统运作细节,因此,指引限缩了可解释性的范围,明定金融机构只要清楚说明AI系统运作、预测,或决策过程背后的逻辑,草案内容则需要详细至说明演算法的运作机制。

不过,指引中也明订,金融机构使用第三方业者开发的生成式AI服务时,即便无法掌握模型训练过程,也需要对产出的资讯进行客观且专业的管控。

另外,指引中也提供六项风险评估因素,供金融业导入AI时辨识、评估系统的风险高低。例如,指引中提及,当AI系统使用的运算模型复杂性较高,或使用参数数量与类型较多,可解释性可能降低,因而有较高的风险性。

银行公会已发布AI作业规范,证期、保险相关公会正在评估、订定自律规范

金管会强调,指引属于行政指导,不具法律拘束力。他们建议,金融业相关公会如有订定运用AI的自律规范,可以参考指引,纳入相关重点和措施。若金融机构尚未订定相关自律规范,则建议参考指引导入、使用及管理AI系统。另外,金管会也鼓励金融业者在运用AI办理创新业务时,可透过金融科技创新实验,或金融业务试办等机制进行测试。

银行公会已在今年五月修订并发布「金融机构运用AI作业规范」,指引的AI定义正是参考自这份作业规范。证期局副局长高晶萍在例行记者会上表示,先前已发文给证券、期货和投信顾公会,请公会在相关规范发布后一个月内制定自律规范,再向证期局进行核备。另外,保险局主秘古坤荣表示,保险相关公会也正在评估、订定自律规范中。