AI趋势周报第231期:Docker也新添生成式AI工具了

开源容器平台Docker最近新添生成式AI工具,包括GenAI Stack和Docker AI,前者可加速生成式AI应用的开发,后者就像开发助理,可提供自动化指示。

重点新闻(1013~1019)

Docker     容器     生成式AI  

开源容器工具Docker也新添生成式AI工具,开发更快速

开源容器平台Docker是目前许多AI应用的主流部署方法,其同名公司日前在年度技术大会Dockercon上,揭露一系列生成式AI新功能,首先是,是个类似程式开发助理Copilot的服务。团队以长年来累积的百万个Dockerfile、Docker Compose档案来训练Docker AI,能针对特定情境提供自动化功能,比如可在使用者编辑Dockerfile或Docker Compose档案、在地端除错docker build或在执行测试时,提供自动化指示,加速开发流程。  可解释性      特征      神经网路  

Anthropic用特征解构神经网路,大幅提高可解释性

OpenAI竞争者Anthropic在最新发表的AI研究论文〈Decomposing Language Models With Dictionary Learning〉中,提出一种字典学习方法,能提高对神经网路的解释性。这项研究让Anthropic更能监控模型,进而引导模型行为,提高企业使用AI的安全性和可靠性。

进一步来说,有别于在单一神经元中寻找规律,团队扩大运用特征(Feature)概念,借由特征对应到一群神经元活动模式的特性,来将复杂的神经网路,解构成更容易理解的单位。他们也在Transformer模型中,成功将一个含512个神经元的层,分解成超过4,000个特征。同时,团队还发展自动解释方法,来验证特征的可解释性。他们用大型语言模型来生成小模型的特征描述,并以另一个模型来对描述评分,实验结果也证实,特征的得分高于神经元,也间接证明特征的活跃和模型下游行为具一致性。 

 

  PyTorch Edge     边缘装置     ExecuTorch  

PyTorch Edge新解决方案简化边缘装置的AI推论

开源机器学习框架PyTorch Edge最近推出一款新解决方案ExecuTorch,获苹果、高通创新中心和Arm等科技巨头支援,可实现跨行动装置和边缘装置的模型推论工作。

进一步来说,ExecuTorch的目的是要解决装置AI生态系碎片化的问题,其关键元件包含一个执行环境和轻量级操作登录档(Operator registry),范围涵盖PyTorch生态系中所有模型,可简化PyTorch在装置上执行的过程。ExecuTorch还有一个SDK和工具链,提供ML开发者直觉式的使用者体验,能用来编写、训练模型和装置授权,并整合在单一个PyTorch工作流程中。  Google Cloud     智财     生成式AI  

Google Cloud提供智财免责防护

为让企业用户安心使用AI服务,Google Cloud宣布提供AI免责防护,让使用者不用担心使用到版权内容而被告。今年8月,Google推出付费的Duet AI助理服务,并整合至生产力工具Workspace、云端平台Cloud Platform以及AI模型服务Vertex AI,企业可用Duet AI来生成所需内容,如行销文案、广告图片或电子邮件等。

而最近推出的服务,则是要防止使用者可能遭遇的版权法律责任。新服务包含2部分,第1个与Google使用的训练资料有关,第2部分则著重基础模型的生成结果。首先,训练资料的免责涵括所有Google用来打造其生成模型的资料集,当第三方单位宣称客户侵害了其智财权,责任全由Google承担。第二部分则是当户使用Google AI服务的输出结果,被第三方单位宣称侵害其版权时,责任归属在Google。