欧盟执委会(European Commission)
欧盟执委会(European Commission,EC)上周六(12/9)宣布,欧洲议会与欧盟理事会(European Council)已就人工智慧法案AI Act达成政治协议,这是全球首个AI综合法令框架,将用来规范AI系统的供应商,以及使用AI的组织,亦可望成为全球制定AI法令的基准。
EC主席Ursula von der Leyen表示,AI Act的监管重点为可辨识的风险,借由保障个人与企业的安全及基本权利,于欧盟支援可靠的AI发展,并将对AI的全球规则作出重大贡献。
AI Act将AI系统分类成最小风险、高风险、不可接受的风险,以及透明度风险。大多数的AI系统属于最小风险,诸如推荐系统或垃圾邮件过滤机制等,相关供应商将不必承担义务。高风险系统则涵盖关键基础设施、执法或公领域系统、生物辨识与情绪辨识系统等,它们必须遵守严格的要求,例如具备风险缓解系统、资料集、活动纪录、详细的文件、及人工监督等。至于不可接受的风险指的是可操纵人类行为以规避自由意志的系统或程式,也将在某些应用中禁止生物辨识。透明度风险要求人们必须能够辨识与之交流的对象或内容是否源自AI。
未遵守AI Act的业者将被罚款,最高款项为3,500万欧元或年营收的7%。
AI Act也对通用AI模型特别祭出规定,对于那些可能带来系统性风险的超强大模型,提出了额外的约束性义务,涉及风险的管理、意外的监控、模型的评估,以及对抗性测试等。
除了欧盟各国的市场监督机构之外,未来EC亦准备成立一个新的欧洲AI办公室(European AI Office)来协调AI Act的法规遵循。
在达成政治协议后,欧盟将著手撰写取得共识的AI Act版本,理论上可于本月底通过正式法令,并于两年后生效。在生效之前,EC计划推出AI Pact,号召全球的AI开发人员自愿提前遵循AI Act。