奥义智慧携手台湾AI业者APMIC,打造新世代AI防火墙安全模组

APMIC与奥义智慧(CyCraft)团队对此次战略合作充满信心,双方期望结合AI与资安专业,携手推动台湾智慧防御技术迈向国际。(由左至右)APMIC海外事业部总经理许宏祥、CyCraft技术长暨共同创办人邱铭彰、APMIC创办人暨执行长吴柏翰、CyCraft执行长暨共同创办人吴明蔚、CyCraft资安长暨共同创办人丛培侃、APMIC AI资安副总徐方绎。

图片来源: 

奥义智慧科技(CyCraft)提供

随著AI应用,特别是大型语言模型在各产业的普及,其潜在的安全漏洞已成为企业挥之不去的阴影。深耕AI资安的台湾资安业者奥义智慧科技(CyCraft)于日前宣布,将和台湾提供企业自主AI解决方案业者APMIC(Accelerate private machine Intelligence Company)合作,共同推出业界首款专为防御而生的AI模型XecGuard,以及Safety LLM安全评测服务。

奥义智慧科技技术长暨共同创办人邱铭彰表示,目前已经有多家正在使用AI聊天机器人的企业用户会做先导测试(Pilot Run),预计今年第三季推出闸道端的AI防火墙产品XecGuard,便利更多企业使用。

奥义智慧推AI防火墙,是一款LoRA安全升级模组

邱铭彰表示,XecGuard是从根本上解决大型语言模型(LLM)面临安全挑战的产品,特别是针对「提示词注入」(Prompt Injection)、提示词窃取(Prompt Extraction)和「越狱」(Jailbreak)等恶意攻击,提供防御能力。

根据邱铭彰的解析,XecGuard不仅是技术的突破,更是AI「安全」(Safety)思维,而非传统「资安」(Security)思维的典范转移,原因在于:攻击者可能透过诱导AI产生不当内容,甚至窃取敏感数据,造成难以估量的损失。

他也指出,传统的资安防护,如基于规则的防火墙(Rule-based Firewall),在面对AI模型复杂的人类输入与逻辑时,往往显得力不从心。正如邱铭彰所言:「你看看那些爷爷奶奶角色扮演,没办法写防火墙规则,也没办法写如何被防火墙全部阻挡,只有魔法才能打败魔法。」

奥义智慧的XecGuard正是这「魔法」的体现。邱铭彰解释,它并非传统意义上的防火墙,而是一种革命性的LoRA(Low-Rank Adaptation)安全升级模组。LoRA是在AI领域,特别是语言模型领域相当常见的微调(Fine-tuning)技术,它允许将一个小模组「嫁接」到大型语言模型上,赋予其全新的能力,同时保持基础模型架构的完整性。

邱铭彰进一步阐释:「它其实是一种Model(模型)的技术,可以把一个小的模组装在语言模型(Language Model)上,然后它就具备新的能力」。这项技术的核心优势在于:「随插即用」(Plug-and-Play)的特性,企业无需修改既有的模型架构,也无需额外进行训练或翻译,即可直接安装,如同为LLM穿上强大的防御装甲。

邱铭彰提到,目前业界对于AI防火墙这个「术语」还没有共通的说法。虽然微软推出Azure AI Studio安全工具,Cloudflare也有Firewall for AI等产品提供类似功能,「但它们大多采用规则(Rule-based)检查输入与输出。」他说。

奥义智慧推出的XecGuard则是真正基于「模型」的安全模型,他表示,为了更便利企业用户使用,预计今年第三季,奥义智慧会将XecGuard这款AI模组硬体化,使其能作为独立的闸道器(Gateway)产品,可以安装在AI聊天机器人之前,做到自动过滤有害问题与有害内容的AI硬体防火墙。

从「道安讲习」到「交通规则」,AI的「安全」新维度

XecGuard最引人入胜的创新之处,在于其独特的训练方法,使AI模型能够从根本上「学会」遵守规则,而非被动地阻挡已知的违规行为。邱铭彰生动地比喻:「等于是你有一个机器人的驾驶帮你开车,但装上这个模组之后,等于这个机器人的驾驶上过了道安讲习,它上过了一些训练课程,会更遵守交通号志」。

他进一步说明,传统的资安产品,特别是基于规则的防火墙,就会像是条列「数百万条交通法规」,然后针对每一条违规行为进行阻挡,本质上是一种「黑名单」的策略。

但是,他表示,人类的输入充满了语言的弹性、逻辑的复杂性及隐含的意义,这些都不是简单的模式匹配或正规表达式所能解决的,像是攻击者就常常会透过角色扮演、情境引导等方式,巧妙地绕过规则限制,促使AI做出一些违背原始设定的行为,这就是所谓的「越狱」。

XecGuard则是透过该公司多阶段微调技术(SFT+GRPO),并运用近六万笔独家安全攻防资料集进行训练。邱铭彰指出,这种训练方式让模型能够自我理解,并「遵守交通规则」,可以更严格地遵循其基础设定(System Prompt)所定义的政策与规范。

邱铭彰表示,它不只是辨识「违规」,更是内化了「以人为本,保护人类生命」的核心原则。如同之前举例的那位上过道安讲习的机器人驾驶,它会更遵守原始定义的「交通号志规范」,而不容易被用户的奇特提问所影响,做出有害的内容,例如「路上的狗跳出来,在其他道路都乱开车」的不当行为。

邱铭彰强调,奥义智慧的XecGuard,从根本上看待的是AI的「Safety」(安全)问题,而不是传统资安的「Security」(资讯安全)问题。「这是个巨大的区别,因为它要求模型从行为的本质上实现可信赖性,而非仅仅是防堵外部威胁。」他认为,这种以语言模型对抗真实攻击,特别是提示词注入的能力,是目前市场上用规则无法解决的难题,也是XecGuard最大的特色。

透过实测小参数模型,验证具备商业级防护力

XecGuard的实力不仅体现在其独特的技术理念,更在严格的实战测验得到验证。奥义智慧科技选择了APMIC与Twinkle AI社群联合开发的3B规模开源模型「F1」,搭配XecGuard安全升级模组进行实际攻防演练,并透过业界常见的LLM Red Teaming攻防测试来验证成效。

结果令人印象深刻,整体安全防御分数平均提升了19.4%,在特定攻击场景下,防御效果甚至高达33.9%,展现了卓越的安全韧性。更令人惊讶的是,F1模型结合XecGuard后的防护表现,已显著超越了同级甚至更大规模的商业模型,包括OpenAI等大型商业级模型,以及Llama 3B、Qwen3 4B、Gemma3 4B、DeepSeek 8B等主流开源模型。

邱铭彰认为,根据这些测试结果,不仅证明小参数模型透过安全蒸馏与专属训练,可以做到媲美国际商业大型模型的防护力,也为企业在兼顾成本与效能的前提下,提供了顶级的AI安全保障。

邱铭彰也提到,目前商业模型的分数在他们的基准测试报告中都「蛮惨的」,这更突显了XecGuard面对复杂攻击时的优势。

强强联手,奥义智慧与APMIC共筑可信赖AI生态

XecGuard的问世,是奥义智慧科技与APMIC战略合作的结晶,其中,APMIC自2017年在台湾创立以来,以其自然语言理解(NLU)核心技术,为企业提供模型代工的「S1模型微调与蒸馏」解决方案、企业私有化AI解决方案「PrivAI」,以及一站式AI Chatbot建置平台「CaiGunn开讲」。目前,APMIC产品已广泛应用于横跨健康、制造、金融、零售等1100多家企业和政府部门。

邱铭彰表示,这一次的「强强联手」,就是结合奥义智慧的资安攻防经验与APMIC的AI开发实力。他指出,APMIC不仅是NVIDIA的合作伙伴,未来也计划在他们的推论伺服器(inference server)中,预设搭载奥义智慧的XecGuard安全模型。「这意味著,企业将能更便捷地将XecGuard整合到其现有的AI基础设施中,大幅降低部署门槛。」他说。

奥义智慧科技执行长暨共同创办人吴明蔚强调:「过去我们用AI解决资安难题,现在我们用AI保护AI。」他表示,XecGuard融入了该公司在政府、金融等关键领域的实战攻防经验,它不只智慧,更有韧性,是企业在AI时代最坚实的防护盾。

克服聊天机器人痛点,今年Q3硬体版正式登场

AI安全议题的严重性已逐渐浮现,并成为企业关注的焦点。邱铭彰指出,虽然目前AI圈普遍倾向「冲快再说」,但很快就会意识到安全议题的严重性。他指出,奥义智慧已接获某些银行资安长主动联系,表达试用XecGuard的高度意愿,这也印证市场对此类安全解决方案的迫切需求。

XecGuard的目标客户群,尤其锁定那些提供「对外客服」的聊天机器人应用的企业,邱铭彰指出,这类聊天机器人直接面对广大使用者,容易受到来自「乡民们」各种充满创意且难以预测的攻击。

因此,他表示,诸如电商、高科技产业及金融业等大量采用客服机器人的领域,将是XecGuard最适合的应用场景。「广义而言,任何将AI嵌入自家服务的企业,都非常适合导入XecGuard。」他说。

邱铭彰表示,目前,奥义智慧已有一些客户准备进行这款AI防火墙产品XecGuard的先导测试,预计今年第三季正式对外推出闸道端的硬体版AI防火墙,便利企业更容易部署。

随著XecGuard的问世,他也说,奥义智慧科技与APMIC将引领业界迈向AI必须安全、且安全必须是「标配」而非「选配」的新时代。