图片来源:
OASIS Open
专门推动全球结构化资讯标准的非营利组织OASIS Open，在周四（7/18）发表了安全AI联盟（Coalition for Secure AI，CoSAI），这是一个开源倡议，计划建立一个协作生态体系，以分享与AI安全设计有关的方法、标准化框架及工具。其主要赞助者为Google、IBM、Intel、Microsoft、Nvidia与PayPal，其它赞助者还包括Amazon、Anthropic、思科、Chainguard、Cohere、GenLab、OpenAI及Wiz。
身为CoSAI的创始成员，Google揭露了该联盟计划与产业及学术界共同解决的3个重点领域，分别是AI系统的软体供应链安全性、让防御者为不断变化的网路安全领域作好准备，以及AI安全治理。
此外，CoSAI也将与Frontier Model Forum、Partnership on AI、Open Source Security Foundation及ML Commons 等组织合作，以共同推动负责任的AI。
思科则说，CoSAI的范围涵盖安全的建置、部署与运作AI系统，以减轻专属于AI的安全风险，像是模型操纵、模型窃盗、资料中毒、提示注射，以及机密资料汲取等，替业者提供整合的安全解决方案，才能令它们在无需成为AI各方面专家的前提下，利用最先进的AI控制能力。
思科认为，安全需要集体行动，为了安全地参与数位生态体系，大家都应该采用通用的安全标准与最佳实践，而AI也不例外。