微软与OpenAI在本周三（2/14）发布了一项AI时代的新兴威胁研究报告，证实各国国家级骇客已利用大型语言模型（LLM）来协助攻击，涵盖中国骇客Charcoal Typhoon与Salmon Typhoon，伊朗骇客Crimson Sandstorm，北韩骇客Emerald Sleet，以及俄罗斯骇客Forest Blizzard，而OpenAI则进一步采取行动，关闭了与上述骇客组织有关的用户帐号。
微软威胁情报中心（Microsoft Threat Intelligence Center，MTIC）长期关注与追踪逾300个骇客组织，其中包括160个国家级骇客组织，以及50个勒索软体集团，这些骇客组织部署了各种数位身分来攻击基础设施。微软持续分析骇客利用新技术来扩大能力或躲避侦测的行为，并与OpenAI合作监控骇客如何利用AI及各种LLM。
微软表示，目前尚未观察到骇客因使用AI而产生特别新颖或独特的攻击，但将与OpenAI共同确保ChatGPT等AI技术被安全及负责任地使用，因而采取措施破坏骇客的相关资产及帐号，改善对OpenAI LLM技术及使用者的保护，以避免遭到滥用或攻击，同时也将替双方的模型建立防护栏与安全机制。
根据双方的调查，这些国家级骇客目前主要是利用OpenAI的服务来查询开源资讯，翻译，寻找程式码漏洞，以及执行基本的程式码撰写任务。
其中，Charcoal Typhoon使用OpenAI的服务来研究不同的公司及网路安全工具，替程式码除错或是生成脚本，也以AI来建立可作为网钓攻击的内容。Salmon Typhoon则是使用OpenAI的服务来翻译技术论文，检索各个情报组织及区域型骇客组织的公开资讯，也用来协助撰写程式，以及研究于系统上隐藏程序的常见方法。
Crimson Sandstorm以OpenAI的服务生成程式及网页开发脚本，或是生成网钓内容，以及研究恶意程式可躲避侦测的方法。Emerald Sleet则是利用OpenAI的服务来辨识亚太地区国防领域的专家及组织，寻找公开漏洞，协助基本的程式撰写任务，以及生成网钓内容。Forest Blizzard 主要使用OpenAI服务来研究开源的卫星通讯协定与雷达成像技术，也用它来撰写程式。
整体而言，这些国家级骇客使用OpenAI服务的方式与一般使用者大致相同，只是所生成的内容、撰写的程式或是查询的资讯，都是为了要展开攻击。
微软与OpenAI认为，目前的模型对骇客的帮助有限，但为了领先这些重大且不断演变的威胁，双方将采取多管齐下的策略来遏止骇客组织，包括禁用帐号、终止服务，或是限制对资源的存取；同时与其它AI生态系统合作以交换骇客组织的资讯；不断改善AI系统的保护机制；透明化骇客对AI系统的滥用资讯以与全球共同防范。