AI安全问题持续成为焦点，大家除了关注用AI帮助资安，又或是担心攻击者滥用AI让让攻击更升级，其实还有Security of AI的面向，也就是AI本身安全的议题，同样成为国际间忧心的重大课题，只是这类资讯不像其他AI安全问题那样吸睛，且较为分散，因此我们在这一期资安月报中，决定帮大家统整现况。
特别的是，随著2023年的结束，在新的一年，大家也期待资安能有重大进展，下列是我们认为国内外须密切关注的5大资安议题：
●美国国家标准与技术研究所（NIST）提出的网路安全框架Cybersecurity Framework（CSF）2.0版草案，在2023年11月已结束公开征询，预计2024年初就会发布最终的正式版本。
●美国NIST举办的后量子密码学（PQC）标准化竞赛，在2022年宣布首批认可的PQC演算法后，预计2024年标准会正式发布。
●欧盟的人工智慧法案（AI Act）在提出两年半后，在2023年12月以达成政治协议，预计2024年通过成为正式法令。
●台湾《个人资料保护法》过去未明定主管机关，随著2023年修法，增订增订「个人资料保护委员会」为个资法主管机关，随著委员会筹备处在2023年12月初设立，预计2024年将正式挂牌。
●台湾《资通安全管理法》自2019年元旦正式实施以来，已多年未曾修法，值得注意的是，数位发展部在2023年9月预告启动资安法修法程序，如今正持续广邀各界对于修正草案提出意见，是否能在2024年内完成修法亦受关注。
接下来，让我们谈谈Security of AI的最新发展，事实上，最近这方面的讨论很热络。
例如，在资料安全的面向，由于训练AI模型需要大量资料，企业敏感资料是否泄露或遭盗用；在AI系统安全的面向，是否导入安全设计与开发，减少系统漏洞被骇客攻击的机会。
还有，AI模型安全的面向，不只资安界关注，更是整个人类社会都在担忧的风险，像是AI模型可能存在弱点或偏差，可能遭受训练资料AI下毒这类攻击手法利用，使机器学习演算法的行为朝著攻击者选定的方向改变，如建议安全性不足的程式码。甚至，还有符合道德使用、可解释性、透明度、可归责性等不同层面，同样会是需要重视与涵盖到的范围。
关于这方面的发展，近期我们注意到国际间三大规范的动向，都与此议题相关，包括：
（一）全球首份「安全AI系统开发指南」出炉！由英国NCSC与美国CISA等18国共同发布，目的是要确保人工智慧系统的整体安全性。简单来说，该指引提供了AI系统开发的必要建议，并且将AI系统开发生命周期分4大阶段，包括：安全设计、安全开发、安全部署及安全维运，确保每个阶段都有适当的安全措施。
（二）欧盟执委会（EC）在12月9日宣布，已就人工智慧法案AI Act达成政治协议，后续将通过正式法令，并于两年后生效。这项法案的推出，期望建立全面的AI安全标准，当中特别将AI系统分成4类，包括：最小风险、高风险、不可接受的风险、透明度风险，同时还针对通用AI模型另祭出规范。
（三）第一个针对AI安全可靠开发与实施的无论如何，为了因应AI发展所引发的威胁与风险，AI安全研究的进展与法规遵循已成为全球极为关切的课题，这对于推动AI系统向更安全、可靠、可控的方向发展至关重要。
特别的是，我们看到一些新的漏洞研究公布，有3项消息值得资安圈的重视，整理如下：
（一）欧洲黑帽大会于12月4日到7日举行，有研究人员揭露一项涉及UEFI开机、韧体图像解析器的LogoFAIL漏洞，当中针对Insyde、AMI、Phoenix等韧体分析，指出开机启动自订商标图案的客制功能出现破口，并找到29种攻击手法。
（二）AI模型资源平台Hugging Face存在API漏洞被揭露，一旦其API验证Token被窃取，将引发企业资料外泄，或是训练资料集被污染变成恶意的AI模型。研究人员警告，只要控制这些程式码储存库，就能发动多种攻击，尤其是供应链攻击。
（三）蓝牙技术底层漏洞CVE-2023-24023、新型态蓝牙攻击手法Bluffs的揭露，该漏洞与Session金钥的解密、交换资料过程有关，将破坏蓝牙连线的保密性，研究人员共公布6种攻击手法。目前Bluetooth SIG已收到通报，并发布缓解措施。
在AI与资安方面的议题，本星期有两大焦点消息，一方面是使用AI工具帮助资安管理，一方面是使用AI工具的安全议题。
●思科在12月6日开始举行亚太区年度用户大会Cisco Live!，并在大会上宣布推出全新AI助手（Cisco AI Assistant），首先公布的应用场景是简化防火墙规则管理，让用户可透过自然语言提问，就能让防火墙的查询、设定等操作，变得更容易。
●资安业者Snyk发布2023年度AI程式码安全报告，指出现在已有相当多软体工程师及资安团队使用AI程式码工具，但多数开发人员并未因此在流程中，更积极采用多种安全扫描工具。而且，高达8成开发者为了使用AI工具，而无视公司资安政策。
对于Go开发者而言，有一项需要慎防的威胁要注意。有资安业者警告GitHub上有1.5万个Go程式套件模组，恐存在遭到储存库挟持（Repojacking）攻击的风险。原因在于原专案使用者名称变更，或是GitHub、Bitbucket帐号删除，导致帐号名称因弃用而被释放出，进而让攻击者得以注册这样的帐号并滥用。
还有一些恶意活动的揭露，我们认为可留意下列消息，包括：WordPress网站管理者也要注意，有骇客假借WordPress名义，声称侦测到网站存在漏洞要用户套用修补程式，但其实是引诱用户安装由骇客提供的外挂程式，以在用户网站植入后门程式；僵尸网路P2Pinfect的新一起攻击行动，是锁定采用MIPS架构的物联网装置，利用SSH连线存取目标装置，再透过弱密码尝试入侵。其他还包括后门程式Agent Racoon、窃资软体Lumma，也有最新攻击行动，资安业者目前已揭露这类消息。
（一）欧洲黑帽大会于12月4日到7日举行，有研究人员揭露一项涉及UEFI开机、韧体图像解析器的LogoFAIL漏洞，当中针对Insyde、AMI、Phoenix等韧体分析，指出开机启动自订商标图案的客制功能出现破口，并找到29种攻击手法。
（二）AI模型资源平台Hugging Face存在API漏洞被揭露，一旦其API验证Token被窃取，将引发企业资料外泄，或是训练资料集被污染变成恶意的AI模型。研究人员警告，只要控制这些程式码储存库，就能发动多种攻击，尤其是供应链攻击。
（三）蓝牙技术底层漏洞CVE-2023-24023、新型态蓝牙攻击手法Bluffs的揭露，该漏洞与Session金钥的解密、交换资料过程有关，将破坏蓝牙连线的保密性，研究人员共公布6种攻击手法。目前Bluetooth SIG已收到通报，并发布缓解措施。
●思科在12月6日开始举行亚太区年度用户大会Cisco Live!，并在大会上宣布推出全新AI助手（Cisco AI Assistant），首先公布的应用场景是简化防火墙规则管理，让用户可透过自然语言提问，就能让防火墙的查询、设定等操作，变得更容易。
●资安业者Snyk发布2023年度AI程式码安全报告，指出现在已有相当多软体工程师及资安团队使用AI程式码工具，但多数开发人员并未因此在流程中，更积极采用多种安全扫描工具。而且，高达8成开发者为了使用AI工具，而无视公司资安政策。