今年微软Build大会有场GAI开发工具新功能的演讲，格外让我印象深刻，再次扩大了我对GAI应用可能性的想像！讲者举了Copilot最新代理能力的三种应用场景，IT求助桌、新人上手助教和第三种「私人门房」，以第三种最让我惊艳。
AI代理可以扮演一位私人专属的数位门房，当你收到一封来自客户下单买东西的Email，不用等到自己读信，就会先触发了AI代理Copilot。这只AI代理，先看懂信中的「订购」意图，汇整信中提供的订购资讯，建立一张新的服务订单。查了一下CRM，发现这名顾客帐户是熟客后，就调出他过往的订购纪录，也参考了过去的订购对话，补齐更多下单需要的资讯细节，再同步比对库存系统中的商品数量，最后，AI代理汇整了这些行动得到的资讯，将顾客来信转成了一份真正的订单，并产生一封订单确认信，寄回给顾客确认细节，问对方是否满意。一但收到对方确认无误的回信后，AI代理就可以真正送出这份订购单，交给出货部门接手。
在这个过程中，原本要负责处理订单Email的真人业务员，几乎可以完全不用动手。AI代理以这名业务人员的身分（因为从他的笔电上，以他的帐号来行动）来阅读信件，查询CRM、建立新订单、回信给顾客、送出订单。真人业务顶多只需要在寄给顾客确认订单之前，多看一眼（金额不高的话，甚至可以不用看）。
这个私人门房的场景，不只是业务人员订单，只要是经常用Email沟通的办公人员，都可以建立不同「用途」的AI代理，自动在背景处理不同类型的信件。甚至不只Email，即时通讯软体、社群平台等不同数位通路上，都可以设立不同的AI代理，作为来讯处理的私人门房。
今年两大公云巨头，Google、微软在年度大会上，都开始强调AI代理是GAI应用的新主流，两家的AI开发工具也要开始支援这类应用的打造。不过，单从「AI代理可以用你的身分来采取行动」，这么简单的一句话，很难具体想像，有哪些实际可能的应用。这场演讲提到的私人门房场景，一下子就打开了我的想像空间，各种可能的商用机会点子，不断冒出来。
代替你的身分行事的作法，并不稀奇，企业常见的RPA脚本机器人也能做到，但是，LLM所打造的AI代理，最大的突破是能判断人类的意图，可以进行简单的推理和技术，打破了过去「靠一套固定规则来行动」的RPA代理模式，才成为更具智慧的AI代理。
但是，从另一个角度来思考，若是恶意程式，变成了恶意的AI代理，那又会如何？
新亮相的AI PC，在本机端内建了NPU，微软新的Windows Copilot Runtime也要将具备推理和理解能力的小模型SLM，内建到OS层级的函式库中。恶意AI代理程式一旦有机会植入到AI PC上，只需呼叫本机端GAI API，就能「暗中」运用推理能力，慢慢计划尝试各种渗透，甚至以你的身分进入企业内部应用，窃取机敏资料。过去，只有熟谙APT技巧的资深骇客才能做到的事，随著AI代理能力越来越强，这类恶意AI代理的威胁性，也相对比过去更高。
企业如何发现这些更懂得匿踪、更擅长渗透的恶意AI代理，只能靠随时观察企业内网种种可疑行为，才能及时发现。在今年台湾资安大会主题演讲中，奥义智慧科技创办人邱铭彰（Birdman）回顾十年资安发展，他强调：「云端时代的战场，不再是端点，而是各式各样的工作流程中的身分风险。」
Birdman更归纳了资安典范的转移，从过去以「了解敌人」的「什么不能出现的Security典范」，现在变成了企业得「了解自己」的「什么不该出现的Safety典范」。这一席话正点出了对抗恶意AI代理的关键策略。