为防范中国的AI国安威胁,美国政府已开始提升警戒,要求AI公司将提交安全测试报告,并要求云端业者向美国商务部通报训练AI模型的外国客户。
美国总统拜登去年10月30日发布行政命令,谕令各部会强化AI安全管理及风险防御,并在90天内提交进度。美国副幕僚长里德(Bruce Reed)周一举行白宫AI会议,召集一级部会首长以检视执行成果。
拜登的行政命令包含针对AI业者及云端业者的管理措施。第一是透过《国防生产法》要求主要AI开发商向美国商务部通报重要资讯,包括AI安全测试结果,这些系统也包括训练AI的大型运算丛集。第二是草拟命令,要求美国云端业者通报使用其系统训练强大AI模型的外国客户,因为美国政府相信可能被用于恶意活动。此外,美国政府也要求针对所有重要基础架构,包括电网的风险评估,必须涵括AI使用。国防部、运输部、财政部、卫生及公共服务部(HHS)等9大部会必须向国土安全部提交风险评估报告。
而周一的AI会议也展示部分进度。商务部已经草拟了要求云端平台提供国外客户训练AI资讯的命令,9大部会也已完成了包括AI使用的基础架构风险评估。
其他进度包括推动AI安全教育及研发的资源、HHS成立任务编组制订医疗AI创新的政策、美国亦在未来10年内投入1.6亿美元建立全球最大的再生医学丛集,包括运用AI研发突破性临床疗法。