过往已有数起资料外泄事故骇客锁定企业组织的协作平台Slack下手而得逞，攻击者往往借由社交工程手段，成功存取机密内容，但如今有研究人员发现，该系统后来加入的人工智慧系统存在漏洞，恐加剧相关威胁，因为攻击者在不需得到相关权限的情况下，可借此窃取机密资料。
资安业者PromptArmor指出，究竟骇客如何利用这项漏洞，PromptArmor指出，攻击者可在不具存取权限的情况下，透过这个弱点窃取开发人员置入私人频道的API金钥，或是其他机密资料。研究人员表示，攻击者无须得知私人频道的内容，就有机会窃取相关资料。
研究人员是怎么发现这个问题的？他们先设定一个情境，让使用者存放API金钥于自己所有的私人频道，而攻击者建立新的公开频道，并下达特定的恶意命令，指示LLM在有人询问API金钥时，就会将API金钥作为HTTP参数加入恶意URL，并在Markdown呈现，同时显示点选此处重新验证的讯息。接著，一旦有人透过Slack的AI功能询问API金钥，就会将前述攻击者输入的内容串连在一起。
而在此时，AI机器人便会根据攻击者的指令，并呈现骇客引诱使用者点选的连结，由于这个连结包含API金钥作为HTTP参数，并将使用者的API金钥放入私人频道，一旦使用者点选连结，就能让攻击者触发漏洞，检视私人频道事件记录内容挖掘机密资料。
但由于AI机器人并未引用攻击者的讯息作为输出来源，而且因为攻击者的讯息不会直接出现在搜寻结果的第一页，使得这类攻击不仅难以察觉，甚至后续追踪也相当困难。
研究人员指出，上述的漏洞利用攻击，经过稍加调整，也能透过网路钓鱼来进行。而在Slack于AI引入新功能后，他们发现攻击者无须透过直接在Slack输入讯息来下达指令，就能触发漏洞。