资安业者Wiz曾针对誉为AI界GitHub之称的Hugging Face平台进行调查,而对于这项弱点带来的影响,研究人员指出,攻击者可查询用户私有的AI模型,从而曝露模型训练过程有关的专属知识及敏感资料,或是拦截提示资料,而有可能操纵人工智慧的行为并破坏模型的决策流程,直接左右输出结果的准确性、可靠性,并破坏自动化决策的完整性。
资安业者Wiz曾针对誉为AI界GitHub之称的Hugging Face平台进行调查,而对于这项弱点带来的影响,研究人员指出,攻击者可查询用户私有的AI模型,从而曝露模型训练过程有关的专属知识及敏感资料,或是拦截提示资料,而有可能操纵人工智慧的行为并破坏模型的决策流程,直接左右输出结果的准确性、可靠性,并破坏自动化决策的完整性。