背景图片来源／AI Safety Institute
英国的人工智慧安全研究所（AI Safety Institute）上周五（5/10）释出AI模型安全评估平台Inspect，该平台具备了扩充性，可供全球AI社群协作以开发AI评估能力。
Inspect为AI安全研究所所打造的大型语言模型评估框架，它基本上是个软体库，所内建的三大主要元件包括资料集、求解器（Solver），以及评分器，可用来评估各个模型的特定功能，包括其核心知识、推论能力与自主能力等，并根据其结果进行评分；除了内建元件之外，亦允许开发者以Python撰写其它的套件。Inspect采用开源授权，因而可供AI社群免费使用。
去年11月成立AI安全研究所，此一组织将负责测试各种即将发表的新型AI，以解决AI模型的潜在有害问题，包括探索涵盖偏见、错误资讯或失去人类控制等风险，属于英国国家组织，而Inspect即为全球首个由国家支持的AI安全测试平台。
AI安全研究所主席Ian Hogarth表示，他们相信开源的力量，鼓励更多人作出贡献，提高透明度及可重复性，同时降低所有人的成本；AI的结构性挑战之一是需要跨境与跨机构的协调，相信在开源的前提下，学术界、新创企业、大型企业、政府与公民社会都能够更广泛地协调，以发挥更大的作用。
除了Inspect之外，AI安全研究所也正与英国首相办公室及AI育成中心（Incubator for AI）共同汇集不同领域的AI人才，以测试及开发其它的开源AI安全工具，以让AI社群更容易将它们整合到模型中。