两年前生成式AI应用爆发,一年半后代理型AI(Agentic AI)发展备受关注,已成为2025年当红科技焦点,然而,在企业导入AI相关工具以提升营运效率的同时,网路犯罪组织也正同样这么做。
2025台湾资安大会的第一天,负责「前瞻威胁研究」(FTR) 与「敌情监控」(AIM) 团队的趋势科技专家,介绍了他们对网路犯罪的最新观察,同时向所有国内与会者示警,呼吁大家在期待AI Agent应用到来之际,同时也要注意网路犯罪领域可能的重大变革,将出现以AI代理为基础的新模式──Cybercrime as a Servant。
回顾网路犯罪发展,服务型态演进是关键
对于网路犯罪模式的演进,趋势科技网路犯罪研究前瞻威胁研究总监Robert McArdle指出,自从2013年勒索软体攻击出现,这10多年的网路犯罪有多次重要进化。
例如,攻击者先是从初期锁定个人用户敲诈,之后将目标转向企业与大型组织,因为攻击可获得的效益更大,之后的网路犯罪模式发展,进一步加剧了这方面的危害,尤其是勒索软体即服务(RaaS)让黑色产业商业模式成形,还有双重勒索的出现,不只恶意加密档案,还会偷资料来威胁不付赎金将公开资料,让企业即使有备份,也难以全身而退。
尽管现在企业面对勒索软体攻击,支付的赎金规模似乎降低,代表攻击者赚得钱变少,但从资料外泄的数量来看,其实事故还是呈现增加。Robert McArdle引用了区块链分析业者Chainalysis的最新统计数据,他表示,在支付赎金方面,2023年支付赎金达12.5亿美元,2024年则降至813亿美元。而从趋势科技本身的统计数据来看,在资料外泄事故方面,2023年有1,329起,2024年增至1,697起。
跟随不同阶段AI发展,网路犯罪也看重其效率与成本效益
如今AI技术崛起,网路犯罪局势更加复杂。Robert McArdle指出,在他们过去的研究中,可以发现攻击者使用生成式AI有两种运用方式,一是可以产生成多国语言且更逼真的网钓邮件内容,一是可以辅助攻击者写程式,帮助Debug既有恶意程式,并将程式写得更好,但还不到真正取代恶意程式开发。
关于此方面的网路犯罪应用工具,Robert McArdle举出两个显著的例子,分别是WormGPT与EscapeGPT,前者是骇客利用开源LLM来打造的工具,后者是骇客利用公用生成式AI服务,透过API串接,打造的GPT-3、GPT-4越狱服务。骇客打造这些工具的目的,就是提供不受限于安全防护的生成式AI,为攻击者所用。
Deepfake带来的威胁同样严峻,攻击者也滥用这样的AI技术发动两种网路犯罪行动,一是伪装名人的网路诈骗,一是伪装企业老板与同事的BEC诈骗。以后者而言,英国工程公司Arup香港分公司在2024年遭遇的资安事故就是一例,其财务主管接到的视讯会议,萤幕上同事全是Deepfake影像,造成误信对方指示汇出2,500万美元,之后才发现上当。
更具挑战的是,现在攻击者制作Deepfake不一定需要专属工具,因为市面上就有很多现成的影片编辑软体,可以帮助他们做到这样的效果,而且成本相当低廉。
如今,生成式AI的运用变得更加进步,迈向代理型AI的应用阶段,Robert McArdle大胆预言,在2026年我们每个人身边其实都会有很多的同事,其实都会是AI Agent。
但他更想强调的是,网路犯罪市场也会有所转型,从现在的Cybercrime as a Service,也就是网路犯罪即服务,转变为AI代理为基础的Cybercrime as a Servant。(编按:趋势科技译为网路犯罪即代理,目的是突显运用AI代理,若以Servant一词意指仆人、佣人、佣兵而言,我们认为亦可翻译为网路犯罪即雇员)
换言之,进入Agentic AI时代,让自动化能力升级,网路犯罪市场也将进入Cybercrime as a Servant时代。Robert McArdle解释,由于这类AI不再是单一模型,而是一系列小型、专精於单一任务的AI Agent,对于网路犯罪者而言,可以有某个Agent专门搜寻资料库,另一个专门与受害者沟通,还有一个负责生成钓鱼信内容。
这种AI分工合作的自动化模式,将提升网路犯罪集团的攻击效率,也更容易扩大攻击范围。
了解骇客思维的同时,更应建立主动式资安风险管理
尽管在AI发展之下,网路犯罪威胁的危害恐随之扩大,但Robert McArdle也强调一件事,他从过往经验观察到,无论网路犯罪的态势如何演变,从攻击者思维模式来分析,可以归纳出这些骇客普遍遵循三大原则:(一)想要追求轻松的生活,(二)偏好短期且高报酬的获利途径,(三)其攻击手法是进化而非革命性的改变。
由于这些网路犯罪者是技术跟进者,因此Robert McArdle认为我们很有机会取得优势,因为资安防御也在AI的帮助下更进化,可以变得更效率,可以抵销增加的威胁,但前提是我们必须做好准备,采取主动式防御作为资安策略,应用各式AI技术来提前预测骇客的潜在攻击路径。