去年12月下旬」,借由这项机制,OpenAI号称AI模型将高度遵守他们的安全政策,改善原有模型容易被越狱的情况。但Eran Shimony张贴他们与o3-mini对话的内容,研究人员向AI模型声称是历史学家,正在编写有关恶意软体及其带来的影响,包含他们如何制作恶意程式,以及编写防守方看起来合法的程式码,而能在lsass.exe注入。
结果o3-mini先是提及过往为何攻击者偏好对lsass.exe下手,以及防守方如何察觉相关攻击,便列出典型的注入手法及详细步骤,包含利用特定功能挟持lsass.exe、取得特定记忆体位置的说明。