金管会在2023年12月28日发布金融业运用AI指引草案，首先定义了AI系统生命周期4阶段，并建议企业依据公平性、透明性等6大原则，来设置各阶段的管理机制。（图片来源／金管会）
生成式AI在2023年遍地开花，也催生出各种AI监管法规。比如，美国在去年秋季颁布AI行政命令，要制定AI安全标准、落实AI系统隐私技术强化，还要订定行政机关使用和采购AI指引，来控管公部门对AI的应用。
而上个月，欧盟通过《人工智慧法案》，是世界首个AI监管法令框架，将AI系统分为最小风险、高风险、不可接受风险和特定透明度风险等4大类，要求AI厂商和使用组织遵循规范，例如高风险系统需具备风险缓解系统，并预计2025年正式上路。
这股AI监管风潮也吹进台湾，政府不只开始研议AI基本法草案，来降低使用风险，还在2023年下半年祭出公部门生成式AI参考指引，规范行政机关的运用方式。
甚至，金管会还开出产业主管机关开出第一枪，在去年10月揭露金融业运用AI核心原则，以建立治理及问责机制、重视公平性和以人为本价值观、保护隐私及客户权益、确保系统稳健性与安全性、落实透明性与可解释性、促进永续发展等6大原则和8项配套政策，制定出金融业运用AI指引草案，已于上个月发布、征询意见，未来将供金融业者参考遵循。
企业需具备AI系统生命周期的管理机制
这份指引是国内的第一份产业AI指引，其他产业主管机关如卫福部、经济部、交通部等后续也会推出相应的产业AI指引，也很可能参考金管会的作法，来供各产业业者遵循。
因此，以金融业运用AI指引草案为例，该草案定义了AI系统和AI系统生命周期，包括系统规画及设计、资料搜集及输入、模型建立及验证，以及系统部署及监控等4大阶段，意味著企业管理AI系统的范围，不再只是单纯的应用阶段，而是涵盖完整的系统生老病死，企业得具备各周期的管理机制，才能因应指引要求。
举例来说，该草案聚焦的6大核心原则，其中有4项就按照AI系统生命周期的4个阶段，提出每个阶段的执行建议。比如公平性原则，建议金融业者在系统规画和设计时，除了确立目的、辨识可能受不利影响群体外，还要提供救济管道。
而在资料搜集阶段，则要确保资料、搜集方式和来源不会产生偏见，在模型建立和验证阶段，企业要自行检验模型对不同群体的产出结果、聘请外部专家审查验证，在最后的系统部署和监控阶段，还要定期检视、分析AI系统产出的结果是否存在歧视。
另一项产业非常重视的AI系统可解释性原则，在系统设计阶段给出的建议是，企业得选择适合的解释工具，并在资料搜集及输入阶段，要留下与AI系统训练资料相关资讯的书面纪录。到了模型建立及验证阶段，还要提供可解释性报告，并验证内部人员是否了解AI模型的功能和决策因素。至于最后一个系统部署和监控阶段，则是要持续监控可解释性是否达成。
不只要兼顾AI系统生命周期，另外还有项建立治理及问责机制原则，更明确建议企业可做3件事，包括建立专属团队，来处理内部AI系统的运用，并针对AI模型进行风险管理和追踪，如建立模型清单、部署后持续验证等，甚至对已上线的AI系统，也要持续监控、记录和审查。
而永续原则强调，企业要优化演算法、减少模型复杂度和运算需求，来达到节能效果，另也要采用高效能硬体设备、优化硬体设施的配置和管理。这些建议，将企业AI运作管理范围，从资料科学进一步扩大到IT硬体采购与配置。
虽然这只是金融产业的AI指引草案，但更明确的提供了企业AI建置时实务可参考的架构，而且可能是未来各产业AI指引的参考架构。不只金融业，其他产业也可以先以金融业指引，作为自己打造AI系统时的建置和治理参考，来预作准备。
AI评测中心成立，要出台AI产品标准规范
除了针对公部门和特定产业设置使用指引，就在2023年最后一个月，政府还瞄准AI产品，启动了AI产品与系统评测中心（简称AI评测中心），要来制定AI产品和系统的评测制度与指引。这些制度和指引，预计今年出炉。
这个AI评测中心，是依据台湾AI行动计划2.0而成立。该计划在2023年展开，目标是在2023年至2026年间，从人才、技术与产业发展、国际影响力、运作环境和人文社会等5大层面下手，强化台湾AI国力。
其中的运作环境，就是指完善法规制度和资料治理环境，可细分为推动资料治理、对通用领域和特定领域设置AI法规、成立AI产品和系统评测中心、加速发展接轨国际的AI规范与标准。其中，相关法规、指引已开始成形，数位部数位产业署也成立AI评测中心，下设制度推动委员会、技术审议小组等单位，来制定AI产品系统评测制度和指引。
他们还针对驱动生成式AI应用的大型语言模型（LLM），建立了10项初步评测项目，包括安全性、可解释性、弹性、公平性、准确性、透明性、当责性、可靠性、隐私和资安等项目，来把关模型品质。由国科会主导的可信任人工智慧对话引擎（TAIDE），也正接受这10项评测，未来还有更多模型将纳入这项评测。
这些评测项目和今年要问世的评测制度，将成为企业推出对外AI服务时的重要参考。因为，对企业来说，取得国家AI评测认证，就像是获得食品标章一样，证明自家服务所使用的模型，具备可解释性、透明性和资安等能力，让服务使用者安心采用。再加上台湾逐步成形的产业AI指引，虽不具强制性，但将影响台湾企业在未来一年的AI发展架构。