Cloud周报第213期:英国政府采用生成式AI技术提升官网搜寻效率与准确性

重点新闻(10/24~10/30)

红帽  RHEL AI 

红帽推出1.2版RHEL AI,简化LLM模型开发、测试和部署

RHEL AI 推出不到两个月后,红帽立刻发布新版本,加入几项重要功能的改进,简化LLM开发、测试和部署。

1.2版RHEL AI中,红帽结合了IBM Research开源的Granite系列LLM模型、基于LAB方法的 InstructLab工具,以及透过开源 InstructLab AI 专案进行模型开发的协作方法。此外,该版本也增强了对硬体和主要云端平台的支援,现在支援 Lenovo ThinkSystem SR675 V3伺服器,提供预载入方案,方便使用户更快部署。在技术预览中,RHEL AI 1.2 还支援 AMD Instinct Accelerators,包括用于训练和推理的MI300x GPU 以及用于推理任务的 MI210 GPU。

在主流云端平台支援方面,除了现有对AWS和 IBM Cloud的支援之外,用户现在还能够在 Azure和GCP上部署RHEL AI方案。

此外,ilab CLI工具现在可以自动侦测正在使用的硬体加速器类型,并相应配置InstructLab pipeline以实现最佳效能,从而减少所需的手动设定。在使用合成资料进行模型的多阶段训练时,ilab train工具现在采用了PyTorch的完全分片资料并行(FSDP)技术,以进行分散式训练,从而缩短训练时间。

Google Cloud    云端营收

Google Cloud营收连两季破百亿美元,增长破3成

Google母公司Alphabet最近公布今年第三季财报,该季营收达 883 亿美元,成长15%。其中,Google Cloud营收占了114 亿美元,成长了 35%。已连续两季突破百亿美元大关,仅次于 Google Services,成为Alphabet第二大收入来源。

从营业利润来看,Google Cloud本季净利达到19.47亿美元,远高于去年同期的2.66亿美元,显示出 Alphabet今年在云端服务方面的强劲盈利表现。

Alphabet指出,本季Google Cloud 的成长动能主要来自 AI 基础设施、生成式 AI 解决方案和核心 GCP 产品的强劲增长。

 

英国保诚   云端GenAI

英国保诚集团用云端GenAI优化医疗保险理赔流程,提高理赔决策的准确性与效率

英国保诚集团近期开始用生成式AI优化医疗保险理赔流程,以提高人员在处理理赔决策中的准确性和效率。

保诚目前在亚洲及非洲的24个市场提供人寿、健康保险以及资产管理服务,拥有超过1,800万名用户。该集团首先在新加坡和马来西亚导入GenAI模型,采用了GCP的MedLM基础模型,分析与健康保险理赔提交的相关文件,例如诊断报告、处方和收据。

概念验证测试显示,在采用GenAI后,医疗保险理赔审核和评估的自动化效率提升了一倍,赔偿决策的准确性也有所提高,有助于保险公司缩短理赔申请的处理时间。

保诚计划未来3至4个月内,将GenAI应用于部分来自新加坡和马来西亚的医疗保险理赔申请,以此协助人员加快理赔审批和支付的流程与作业效率。

英国政府  云端GenAI  

英国政府也拥抱GenAI,先从官网开始导入提高搜寻效率与准确性

GenAI快速窜起,不只企业大力拥抱,各国政府也纷纷跟进采用。例如英国政府最近决定导入云端GenAI技术,并先从自家官网GOV.UK开始推起。

GOV.UK网站每天吸引数百万访客,提供各类政府资讯、服务和指导,如何让民众能快速找到所需资讯成为了重要关键。

为此,英国政府决定导入GenAI,,打造更有效率、对用户更友善的政府网站。他们采用了Google Cloud的无程式码生成式AI开发套件Vertex AI Search,建立新的搜寻引擎。这套搜寻引擎让民众可以使用自然语言进行搜寻,不仅更便利,还提升了搜寻结果的准确性。前期测试结果发现,点选搜寻结果使用者增加 14%,搜寻次数也有所减少。

IDC    亚太区企业云端采用报告  

IDC发布亚太区企业云端采用报告,近九成企业拥抱多云但云端技能待提升

市场调查机构IDC近日