SAP
重点新闻（09/26～10/02）
生成式AI助理 SAP
SAP扩展生成式AI助理Joule加入新功能，增加可自订技能的协作型AI代理
在近日举行SAP TechEd技术大会，SAP宣布将扩展生成式AI助理Joule的功能，包括推出可自订技能的协作型AI代理，未来可以结合跨业务领域的专业知识，透过协作完成复杂的工作流程。
透过Joule的新功能，企业可以根据需求自订协作型AI代理的不同技能，以应对各类业务需求。SAP举例，在纠纷解决管理上，协作型AI代理可以用来分析并处理争议情况，例如发票不正确、遗失、未分配的信用以及被拒绝或重复付款等问题。在财务会计领域，则能自动化帐单支付、发票处理和帐本更新，简化关键财务流程，同时快速解决不一致或错误。
此外，SAP 也为开发人员推出了一系列新产品，例如在SAP Build推出生成式 AI功能，可以提供程式码解释和文件搜寻，缩短Java和avaScript开发人员的开发，还时间，此外，增加可扩充的精灵功能，开发人员从云端版SAP S/4HANA就能对SAP Build进行存取，同时ABAP 开发人员也能从SAP Build 存取 ABAP Cloud 开发工具。
Azure OpenAI GPT-4o
微软Azure OpenAI推出低延迟GPT-4o模型公开预览，可支援即时语音与音讯互动
就在OpenAI发表低延迟的GPT-4o即时API服务后，微软随后更新Azure OpenAI服务，推出了低延迟GPT-4o模型API公开预览，支援即时语音与音讯互动，适用于即时互动的场景，如客户支援、语音助理和即时语音翻译。
GPT-4o即时API是Azure OpenAI的GPT-4o模型系列之一，透过API，企业可以直接将其整合到内部应用程式，支援低延迟语音输入和输出，打造出更自然的语音对话应用程式。该模型提升语音回应速度，减少延迟并提供更流畅的互动体验。API支援多语言对话，可广泛应用于客服助理、内容创作和即时音讯翻译等领域。
该版本的GPT-4o模型初期仅在美国东部和瑞典中部地区推出。目前，德国Bosch已采用此模型，用于汽车环境中的虚拟实境培训，能接收语音指导指令。
GCP 机密运算
Google Cloud更新机密运算产品线，推出C3和C3D两款VM机密运算服务
Google Cloud近日更新机密运算产品线，正式推出C3和C3D两款Google Cloud机密VM（Confidential VMs）服务，前者采用的处理器是英特尔第4代Intel Xeon处理器，内建TDX虚拟机硬体隔离技术，后者则是AMD第4代EPYC，内建SEV安全加密虚拟化技术，借此强化对运算基础架构的安全防护。
相较前一版本，新的机密运算执行个体服务C3，采用AMX指令集扩展架构内建CPU加速，可加速AI和ML工作负载。此外，利用TDX技术，新版本上也能整合通用加密运算平台Anjuna Seaglass与Google Cloud机密VM。
另一方面，采用了AMD SEV技术的C3D，不只使用硬体的记忆体加密来加强资料机密性，还可以在性能更强的硬体上执行，并能结合Google Titanium硬体提升处理效能。
目前C3D执行个体服务已推出，而C3则先在亚洲、美国和欧洲部分区域推出。
Azure 虚拟机器
配备141GB的HBM记忆体，Azure最新AI超级运算最佳化虚拟机器亮相
微软 Azure 近日推出 AI 超级运算最佳化虚拟机器 ND H200 v5，具备更大 HBM 容量，支援更高训练样本数，并提升GPU利用率与吞吐量，可用于大型语言模型 （LLM）和小语言模型 (SLM) 的推理工作负载。
与上一代ND H100 v5 相比，Azure ND H200 v5配备8个Nvidia H200 Tensor Core GPU，不只运算效能更强，HBM记忆体也增加了 76%，达到141GB，频宽提升 43%达到4.8 TB/s，能更快地存取模型参数，降低应用程式延迟。新款VM还能在单一VM的记忆体中存取更复杂的LLM，而不需要分散在多个VM上执行。
此外，在设计上，ND H200 v5可以更有效地管理模型权重、键值快取和训练样本的GPU记忆体，提升 GenAI 推理工作负载的吞吐量、延迟及成本效率。微软指出，该版本在执行LLAMA 3.1 405B模型的推理工作时，吞吐量比前一代提升 35%。
ND H200 v5也预先整合多项服务，包括 Azure Batch、Azure Kubernetes 服务、Azure OpenAI 服务和Azure机器学习，让企业可快速部署应用。
Vodafone Google Cloud
英国电信商Vodafone与Google扩大联手，未来10年将在非洲和欧洲大推云端服务和GenAI
英国跨国电信商Vodafone与Google近日宣布将签署一项总值10亿美元、为期 10 年的战略合作协议，在此合作下，Vodafone将为非洲和欧洲客户提供Google cloud云端服务和Gemini生成式服务，进一步推动这些地区的数位转型与应用创新。
Vodafone和Google合作的首要重点是帮助企业和消费端行动用户导入最新的硬体，如Google Pixel设备，和AI及云端应用程式在内的数位技术。
Vodafone计划2025年先在欧洲少部分国家推出Google One AI Premium 订阅计划，让企业用户将能够使用Google生成式 AI 平台Gemini Advanced，应用于内部系统，并提供视觉、文字及音讯等功能支援。
在安全上，Vodafone将利用Google云端安全营运平台为其企业客户开发新的云原生安全服务。
图片来源／微软
更多Cloud动态
1.本土车厂纳智捷采用Google生成式AI模型Gemini打造AI智能客服系统
2.微软云端资料库服务AlloyDB的ScaNN向量索引功能现已推出，支援最多10亿个向量执行搜索
3.甲骨文将砸65亿美元在马来西亚扩大投资云端运算与AI
4.Arduino Cloud云端物联网平台正式上架AWS市集
资料来源：iThome整理，2024年10月