AWS执行长Matt Garman揭露生成式AI助手Amazon Q Developer新功能,能协助使用者IT现代化,比如加速原本人工吃重的大型主机现代化工作,如程式码分析、文件建档、重新建构应用程式等,甚至还能根据系统状况,来给出IT现代化策的略规画。
摄影/王若朴
AWS执行长Matt Garman在今年度re:Invent 2024技术年会中揭露Amazon Bedrock、Amazon SageMaker和生成式AI助手Amazon Q重大更新,Bedrock不只能开发和管理多代理的协作,还将SageMaker重新定位为,集结资料、分析和AI的通用平台。
另外,Amazon Q也有更多自动化和整合新功能,比如Amazon Q Developer开发助手多了3款AI自动化代理功能、整合GitLab等第三方平台,更重要的是,Q Developer能协助.NET、VMware和大型主机(Mainframe)转换等IT现代化工作了。
Bedrock可以开发多代理协作的应用
Matt Garman在今日主题演讲中点出,AI推论,是AWS发展策略的4大重要基石之一。「生成式AI(GAI)将是所有应用程式的核心元件,」他直言。这是AWS推出Amazon Bedrock的原因,不仅支援自家和第三方模型,还兼具安全、易上手等优点,目前有数十万家组织使用。
在这个基础上,Matt Garman宣布Amazon Bedrock新添模型蒸馏功能预览版,能将大模型的知识快速转移到小模型上,能以更实惠的成本加速模型开发。(如下图)
操作也很简单,使用者只要将应用程式里的提示范例,输入给Bedrock,就能快速打造出客制化的蒸馏模型。
再来,为避免AI产生幻觉,Amazon Bedrock还新添了自动推理(Automated Reasoning)检查功能预览版,来检视模型产出的答案是否符合逻辑。(如下图)Matt Garman还透露,AWS自己有许多服务,就用自动推理功能来检查,像是S3、程式码检查工具Amazon Codeguru等。
不只如此,面对越来越多的生成式AI代理管理和调度问题,Amazon Bedrock也新添了多代理协作功能预览版,来简化AI代理调度任务、不必再写复杂的程式吗,还能平行化分配代理工作,加速任务的执行。
新一代Amazon SageMaker是一套集结资料、分析和AI的通用平台
同样是AI平台,Amazon SageMaker专门提供模型训练、微调、部署和机器学习维运等功能,而今年AWS赋予SageMaker新定位,成为集结资料、分析和AI的通用平台。
在这个大放下,SageMaker有几个新特色,其一是Unified Studio预览版,整合SQL分析(Amazon Redshift)、资料处理(Amazon EMR、AWS。Glue和Amazon Athena)、机器学习(Amazon SageMakerAI)、生成式AI管理(Amazon Bedrock)、串流(Amazon MSK、Amazon Kinesis)和商业智慧(Amazon QuickSight)等多种服务,使用者在单一平台就能存取,打造所需AI分析应用。
另一个新亮点是SageMaker Lakehouse资料湖仓,是一套存取资料的统一平台,使用者可用来存取跨Amazon S3、Amazon Redshift、SaaS服务等平台的资料,还与Iceberg开源资料表格式相容。
这套资料湖仓还提供细致的资料存取权限控管,方便落实资料治理。
与治理相关,这次还推出一套治理工具SageMaker Catalog,管理者可用来设定细致的资料、模型和存取权限。
新一代SageMaker还有一个与SaaS应用程式整合的零ETL新亮点,使用者可在SageMaker Lakehouse或Redshift中,存取Zendesk、SAP等SaaS应用程式的资料,来进行分析和AI应用。如此一来,使用者不必再自己建立、管理资料管线了。
Amazon Q Developer程式码助手能协助IT现代化了
去年年会,AWS揭露了生成式AI助手Amazon Q,可分为Developer和Business两个版本。Q Developer专门用来处理程式码相关工作,Business则接收自然语言指令,来处理组织业务。
在今年年会中,Matt Garman揭露了Q Developer的几个新进展,包括正式新添3款AI代理,分别能自动产生和套用单元测试、产出准确的程式码文件,以及自动进行Code review。(如下图)其中,产出程式码文件的功能,针对新、旧程式码都有用,可找出不足之处和漏洞。
不只如此,为加强可用性,除了原本既有的Slack等第三方合作平台,Q Developer现在也能在GitLab上使用了,接下来还会整合至更多第三方平台。
今年的Q Developer新亮点,还包括协助IT现代化,特别是针对.NET、VMware和大型主机的现代化工作。Matt Garman表示,之前,Amazon自己就用Q Developer来升级内部Java程式为Java 17,不只省下大把时间,也因为使用了现代化Java程式,进而省下年度2.6亿美元的IT成本。于是他们思考,Q Developer是否也能用于其他IT现代化任务。
后来,他们与企业客户详谈,锁定出3个现代化领域,并打造出Q Developer协助IT现代化的新功能。首先是将Windows.NET转换为Linux,转换时间得到4倍加速,还能省下40%的许可费用。
再来是将VMware工作流程转换到云原生架构,将地端网路配置转换为AWS同等配置,几个小时就能完成,而非纯人工的几个礼拜。
第三个是加速大型主机现代化,Q Developer能加速原本人工吃重的大型主机现代化工作,如程式码分析、文件建档、重新建构应用程式等,甚至还能根据使用者系统状况,来给出IT现代化策的略规画。
这三个功能皆为预览版。