微软
微软于周二（11/19）展开的Microsoft Ignite大会上，发表了整合企业AI解决方案的Azure AI Foundry，以及首个客制化的资料处理单元Azure Boost DPU，与安全晶片Azure Integrated HSM。
Azure AI Foundry是个统一的微软AI平台，它的两大元件是原名为Azure AI Studio的Azure AI Foundry入口，以及Azure AI Foundry SDK，目的是协助开发人员于企业级平台上建置生成式AI应用，使用尖端的AI工具及机器学习模型来探索、建置与部署，以及与团队共同完成应用程式开发的整个生命周期。
根据微软对该平台的说明，当使用造访Azure AI Foundry入口网站时，所有的路径都是朝向一个专案，它是个易于管理的容器，也是协作、组织，以及连结各式服务与资料的关键，在使用者建立一个专案以前，可先探索来自不同供应商的各种模型，测试各种AI服务与能力，一旦确定所要的模型及服务，便可由AI Foundry引导专案的建置。
Azure AI Foundry SDK则是一个用来简化AI程式开发的完整工具链，它整合了多种模型、资料来源及AI服务，可支援从模型选择到应用部署的全部开发过程。例如它支援使用者选择微软或其它第三方模型；内建聊天机器人、生成式AI应用及内容推荐系统等范本；具备可整合模型、资料或服务的工具；并支援跨开发、测试及生产环境的应用开发。
Azure AI Foundry SDK目前支援Python与C#程式语言，并准备支援JavaScript，现在已可存取OpenAI的各种模型，提供一致的推论介面，亦可使用Azure AI Search及Azure AI Agent Service等服务。
近年来微软积极投入客制化晶片的开发，去年11月首次发表了专为AI而设计的Azure Maia AI，以及云端运算处理器Azure Cobalt CPU，至于Azure Boost DPU则是微软首款自制的资料处理单元。
微软解释，传统CPU虽然能够处理通用运算任务，但在面对数百万网路连结的高度复杂资料流时，表现却不尽理想，而GPU尽管专注于AI运算，却不适用于资料密集的工作负载，因而设计专为资料处理进行优化的Azure Boost DPU，它整合了多个伺服器元件，提供高效能与低功耗的解决方案。相较于传统CPU， Azure Boost DPU处理云端储存任务时，只使用1/3的电力，却可达到4倍的效能。
Azure Integrated HSM（Hardware Security Module，硬体安全模组）则是专为保护云端资料及应用所设计的安全晶片。微软说明，传统云端HSM通常仰赖网路连结，可能造成存取金钥时的延迟问题，也降低了自远端HSM释出金钥的安全性，而Azure Integrated HSM则是采用本地化设计，将HSM直接整合至伺服器环境，彻底解决上述的限制。
微软亦计划自明年便要把Azure Integrated HSM安装在Azure资料中心的每一台新伺服器上，以同时强化对一般及机密任务的保护。图片来源／微软