数位部
数位部正规画2026年到2030年政府转型发展目标,然而在2026年之前,数位部将先祭出配套措施,引导政府机关尝试导入AI,其中之一是目前正在研拟中,预计今年12月将释出的政府机关AI应用指引,数位部数位政府司长王诚明将其比喻为电玩攻略,数位部自己则将扮演教练,辅导玩家(机关)依照应用指引以达成转型目标。
王诚明表示,大型政府机关因拥有的资源较多,很早便投入发展AI应用,例如数据分析型AI或辨识型AI,相较于这些优等生,有的机关可能因为资源有限,或曾经测试AI应用,但发现相关的资料整备不足,服务训练等配套做法也需调整,最终可能回到既有的做法,数位部希望拉齐各机关的水平,除了规画中的2026年到2030年大型发展计划,数位部也提出相关配套措施,如AI人才培训,以及供机关导入AI之前的试验环境,评估适合机关自己的LLM模型,还有供政府机关参考的AI应用指引。
相较于行政院及所属机关(构)使用生成式AI参考指引,从规范面要求公务人员使用生成式AI不得使用机敏资料,不得以生成式AI产生内容直接取代承办人员客观及专业判断,需经过人工审核等等,透过规范面避免公关机关错误运用AI。
王诚明认为这些属于管制面的规范,缺少教导机关如何发展AI应用,「如同没有教你怎么开车,因此透过AI应用指引教导你如何开车」,他说。
欧盟将AI应用风险分为4级
然而在导入AI之前,应该先建立AI风险管理,避免AI带来负面影响。依照国科会提出我国的人工智慧基本法第十条规定,应由数位部参国际标准或规范,提出与国际介接的人工智慧风险分级框架,王诚明指出,数位部尚未提出我国风险分级框架,数位部未来会参考国际规范,例如欧盟的AI Act法案风险管理框架、美国NIST提出的风险管理框架AI RMF等。
以欧盟为例,AI Act将AI风险画分为4级,不可接受的风险(Unacceptable Risk)、高风险(High Risk)、有限风险(Limited Risk)、最低风险(Minimal Risk),各自有其对应的义务及限制。不可接受的风险,例如在公共场所进行即时远距生物辨识,或是对人们进行评分,以决定其待遇,或是利用潜意识、人类脆弱性的AI系统;高风险,指需要受到严格监管及评估的AI系统,例如应用在电力或交通等基础建设、执法、边境管理、雇用及劳动管理的AI系统等等。
有限风险,需要满足一定程度的公开透明义务,例如AI生成的内容需要标示AI生成,高拟真的AI客服,需要告知人们正与AI互动;至于最低风险,不需要特别的监管措施,例如AI驱动游戏、垃圾邮件过滤等。
换言之,除了不可接受的风险、最低风险之外,欧盟认为其他程度风险因为带来的影响性,需要伴随一定的人为监管措施。
AI应用指引涵盖AI知识、评估、导入、营运管理
那么数位部今年底将释出的AI应用指引,可以为公务机关带来哪些帮助?
对此,王诚明表示,未来AI应用指引内容并非固定不变,会根据AI发展动态调整指引,鉴于公务人员面临的问题,例如调查发现公务人员仍有不低的比率对AI的基本知识不足,因此未数位部的AI应用指引将包括AI基本知识,让团队成员得以沟通,让公务人员具备写AI采购的RFP能力。另外,考虑到缺乏符合机关需求的AI专案说明、实作面说明,未来AI应用指引也会提供AI专案管理所需知道的流程、检核表,让公务人员对AI专案管理有一定的认知,检视专案各个阶段是否达到其需求。
数位部正由专家协助研拟AI应用指引,未来AI应用指引的内容将涵盖AI概念介绍、AI服务评估、AI服务导入、AI营运管理4大章节,共23个子章节。「如同教导学习开车的步骤,拉上安全带,发动引擎,放掉手煞车」,他说。
AI概念介绍,包括AI的定义、帮助及限制、类别、法规,并且收录公部门的应用实例,应用指引将AI分为辨别式AI及生成式AI,并介绍两种类型各自的优缺点,适合的应用。
AI服务评估方面,主要协助机关评估AI是否为适合的解决方案,包含机关面临的问题如何定义、资料状态是否准备妥当、政府公开的AI实证;AI服务导入,包含导入模式、AI专案过程、AI专案验收标准等等;AI营运管理,涵盖风险管理、伦理议题、资安、AI治理等等。
数位部透露应用指引将AI专案生命周期分为5个阶段,涵盖AI场景评估,确认需求评估合适的解决方法,建置AI专案确认团队成员,到资料准备及模型开发、测试及迭代、风险控制及专案追踪,每个阶段有其对应的目标及任务,数位部建议机关可以将流程导入整体的规画,在公务人员在专案流程中得到指引。
王诚明指出,AI专案管理比较困难的是,如何验收AI专案,AI应用尽管合乎逻辑,但是仍可能因为资料产生偏误,换言之,正常的训练可能产生错误的结果,专案验收时需要特别考虑偏误的问题。未来AI应用指引对于专案验收提供4个面向的验收指标,包括模型性能标准、系统稳定性、使用者体验标准、公平性指标,由于AI仍在发展中,因此指标也随著变动。
生成式AI带动新一波AI应用后,王诚明表示,目前公务机关的生成式AI应用场景,以智慧客服、生成摘要,他认为这些仅是目前初步的用法,未来生成式AI将有更大潜力,例如服务流程设计,如何让服务可以更有效率、更符合民众的需求,甚至未来可以期待,针对民众的需求设计服务流程。