红帽即将举办年度产品大会,这一周是满满的科技大厂技术年会,微软Build大会打头阵,今天则是红帽年会以及Google I/O。
红帽过去一年的产品发表,满满都是GenAI经,在去年5月红帽年会中,发表了RHEL AI开发者预览版, 将IBM Granite开源大型语言模型与 InstructLab模型对齐工具打包成可启用的 RHEL 映像,可以支援单机到混合云部署,来降低GenAI门槛。 OpenShift AI也推出2.9, 新增了边缘模型服务、多模型伺服器及Ray分散式工作负载,强化从核心到边缘的预测与生成式AI的部署弹性。
Ansible自动化平台则宣布在 未来版本中导入Policy as Code,可以使用自动化护栏机制(guardrails)来确保混合云与 AI 工作负载的一致性与合规。
去年7月时,Red Hat推出了OpenShift 4.16版, 可以支援虚拟化工作负载与Metro灾难复原、CPU hot-add、单节点IBU更新等,同时也推出了Advanced Cluster Security Cloud Service正式版。
RHEL AI在去年9月9日成为正式版本, 整合 Granite LLM和InstructLab,并提供BYOS至AWS和IBM Cloud,后续支援Azure、GCP。
红 OpenShift AI也和Intel 全产品组合,针对 Xeon、Gaudi AI 加速器等硬体完成验证,提供端到端 AI 解决方案(训练 / 微调 / 推论)与电源效率优化。
去年产品策略聚焦AI 为核心,从RHEL AI、OpenShift AI到 AI-RAN、vRAN,Red Hat 去年的新品几乎都与生成式 AI 或 AI 基础设施直接相关。而 OpenShift 持续迈向单一平台通吃VM、容器、AI、RAN的策略。
值得关注的是,红帽去年11月中收购了GenAI新创Neural Magic, 获得了vLLM 推论最佳化与稀疏化技术,可以用来强化Red Hat AI 产品族群在混合云的LLM 推论效能。
GenAI将依旧会是今年发表重点,红帽如何在去年的GenAI产品布局为基础,发表进一步的战略,尤其是今年开始爆红的代理型AI浪潮,值得期待。