五月最后的十天,两大科技巨头再次展开了生成式AI的新对决,微软年度开发者大会Build和Google年度产品大会I/O,双双在同一周举办,双方开场主题演讲只差了一天,而且都瞄准了代理AI的新战略布局,再次较劲的意味浓厚。
微软喊出了开放式代理型网际网路(Open Agentic Web)愿景,从基础架构、资料工具、AI平台工具到代理AI应用,祭出各项新功能和新产品。Google不只发表多款多模态的大型语言模型,更试图将代理AI能力,整合到各式各样的服务中,从Google搜寻、Chrome到自家各种GenAI应用程式中。
微软、Google这两家生成式AI巨头较劲,看头十足,也再一次翻新了众人对于生成式AI可能性的想像,原来还可以发展出这么多、这么厉害的应用。
同一时间,我却飞到了美国波士顿,参加老字号的商用开源作业系统厂商红帽的年度大会,同样感受到生成式AI、代理AI浪潮的影响力。
不同于AI巨头们,如OpenAI与微软联盟、Google、Nvidia、AWS等,手上拥有庞大的算力、资料来发展各种大型语言模型,红帽这家成立三十多年的老牌软体商,坚持不走大型语言模型研发的路线,而是要善用自己原本的优势,来卡位新的代理AI浪潮。
拥有深厚作业系统背景的红帽,对硬体支援非常熟悉,也和云端供应商、硬体晶片供应商有很好的合作伙伴关系。红帽技术长Chris Wright用一句话点出红帽的新战略:「将底层硬体和热门模型的软体架构串连起来,是红帽在整个GAI世界中的位置。」
红帽的策略要将十多年来投入的混合云战略,带入AI领域。红帽瞄准了企业大规模运用GAI的需求,新产品战略方向是,要让任何模型,使用任何晶片,在不同云端环境如公云、私云和边缘上执行。新发表的商用Linux作业系统RHEL 10新版,可以通吃混合云和AI工作运算需求。另外,也用可以加速LLM运作的开源专案vLLM为基础,推出全新的AI推论伺服器,还发表一个大规模AI推论加速的开源专案llm-d,以K8s实现分散式推理架构,来突破vLLM单一伺服器的限制。
最后一项是宣布,旗下两大AI产品线RedHat AI和OpenShift AI,都将支援Meta的Llama Stack框架和 热门的MCP协定。
不只红帽,5月初,我们另一位记者王若朴则飞到奥兰多,参加另一家创立近50年的老字号数据分析品牌SAS年会,他们同样也在今年大会宣布,新战略全力瞄准代理AI浪潮(相关报导请见:老牌数据大厂的代理AI新战略)。
原本就擅长各种数据分析技术和传统预测式AI技术的SAS,有一套颇受企业青睐的数据分析工具和平台,他们和红帽一样,没有优先研发自己的大型语言模型,而是善用既有平台产品优势,来瞄准代理AI浪潮。
SAS在既有的决策平台Intelligent Decisioning上,增加AI代理能力,尤其是可以提供各种客制化AI代理的开发工作。SAS提供了一套低程式码AI开发工具,可以用拖拉式的操作,以视觉化的方式来建立代理AI的工作流程,不只可以用于开发设计,也能用这套决策平台,来部署和扩展可以独立运作的AI代理应用。
这个代理型AI平台的特色是,结合了SAS擅长的传统统计分析和LLM,来打造AI代理。更提供了AI治理可用的工具,来提高AI代理的透明度与可解释性,像是整合了原本的模型卡(Model Cards)功能,可以呈现出所用模型的偏差评估结果,也提供了AI供应链追踪功能(Lineage),源自传统资料工程实践,可以用视觉化的方式,来呈现从资料ETL流程、模型训练、版本管理、模型部署到最后输出决策的逻辑脉络。
面对生成式AI巨头不断翻新技术的激烈竞争,老字号的软体业者像是SAS或红帽,都走出一条不一样的AI路,善用多年累积的商用IT实力,创造出可以卡位代理AI新竞赛的差异化竞争优势。