Container快报第155期:生成式AI开始影响K8s开发工具链,越来越多容器工具商推出AI维运小助手

Pulumi推出了一款可用来管理所有云端基础设施、应用程式环境机密与配置的工具Pulumi ESC,可搭配配置即程式码(Configuration as Code)策略,让维运人员撰写程式码来管理机密与配置的阶乘结构

2023/10/20~11/20 精选容器新闻:

#GAI、#LLM
Docker推出第一款生成式AI工具,用LLM打造Docker配置小助手

看到GitHub Copilot用GAI辅助程式码开发,Docker也推出自家第一款生成式AI工具,将Docker社群在GitHub以及Docker Hub上,对于中对于Dockerfile配置档、Docekr Compose设定档、Docker映像档的相关讨论集结,来训练出这款Docker配置助手,可以用来引导新手开发者撰写复杂的Docker配置。目前处于先期试用阶段。

#K8s、#跨云管理
SUSE云原生管理平台Rancher Prime推出2.0新版,强化跨云K8s管理和新推AI助手

在北美Kubecon大会上,SUSE发布了新版的云原生管理平台Rancher Prime 2.0,更整合了容器漏洞检查工具NeuVector,也强化了多项企业管理异质、跨云K8s环境的管理能力。除了推出了新的UI扩充机制,可以将第三分工具整合到Rancher Prime的UI介面上,也更容易在UI上使用Cluster API来调度跨云,甚至是边缘装置上的K8s丛集。另外,Rancher Prime也推出了生成式AI助手,可以整合到顾客的Slack频道上,来提供配置安装、效能调校和除错的建议。另外,容器漏洞检查工具NeuVector先前已经推出AWS版,也上架到AWS应用市集,今年底前计划在推出Azure版,也计划在今年年底前,上架到Azure市集,让企业更方便整合到两大公云的K8s环境中启用。

 

#GAI、#Docker
Docker发布生成式AI技术架构,宣称几分钟就能打造GAI应用

抢攻生成式AI部署热潮,日前,Docker公司和热门生成式AI开发框架LangChain、图资料库厂商neo4j和LLM模型训练工具商OllamaL联手,发布了生成式AI技术架构GenAi Stack。在这个技术架构中,提供了预先配置的开源或企业级LLM模型的部署映像档,包括了Llama 2、Mistral,也有OpenAI的GTP-3.5和GPT-4模型,可以透过Ollama工具快速在本地端执行LLM模型。预设资料库则使用了Neo4j,作为LLM输入的基础知识来源资料库。LangChaing则可用来调度LLM、AP和资料库,来开发一个用LLM强化互动脉络的应用程式。Docker号称,使用这个技术架构GenAi Stack,开发者可以在数分钟内快速打造出一只生成式AI的简单应用。

#可观测性、#K8s
Grafana可观测性平台也开始支援K8s丛集监测能力

Grafana Labs技术长Tom Wilkie在Kubecon大会上展示了新的K8s丛集监测能力,使用Helm安装工具,就可以在K8s丛集中部署一个Grafana代理程式,来搜集K8s效能矩阵、log纪录和事件,整合到Granfana仪表板上来追踪。Grafana代理程式优化了对OpenTelemetry搜集器的支援。Tom Wilkie指出,企业需要建立一个系统化的方式来监控不同的云原生开发环境,企业得针对不同团队各自的开发环境个别人工配置可观察性追踪机制,透过Grafana代理程式可以统一搜集来自不同类型开发和运作环境的资料,统一管理和监控的方式。

#全快闪、#容器储存
瞄准GAI训练需求,Dell物件储存软体也能支援全快闪储存设备XF960

Dell日前宣布旗下物件储存软体ObjectScale推出了1.3新版,同时也新增加对Dell最新一代的全快闪储存设备XF960的支援版本。ObjectScale是一款可以用来支援K8s丛集和S3云端储存的物件储存软体,现在可以透过K8s容器储存介面CSI,善用NVMe的频宽,提供高达每节点每秒4.3GB读取和3.3GB写入的能力,来支援庞大LLM模型训练资料的存取需求。根据Dell官方宣称,目前可以支援到900个储存节点的规模。

#CNCF、#自动扩充工具
AWS正将K8s自动扩充工具Karpenter捐给CNCF,开始梳理API命名提高稳定性

这是AWS在2021年释出的K8s自动扩充工具,可用来管理节点的生命周期,来简化K8s丛集扩充的复杂配置工作。Karpenter和Cluster Autoscaler最大不同是,Karpenter直接调动EC2 Fleets丛集,可以更快启动,甚至也可以透过EC2 Fleets,自动使用竞价型执行实例来扩充K8s,进一步降低执行的成本。在2023年,Karpenter这个专案获得高度关注,贡献者暴增到200人。目前这个专案正在进行捐赠给CNCF的流程,将加入K8s自动扩充SIG小组的专案之一。另外,也开始著手强化Karpenter API专案的稳定性,减少专案变动带来的影响。像是将核心API名称修改成以单一Node概念为核心的描述,来降低开发者的使用门槛,例如将调度器API,改名NodePool,将Machine改名成NodeClaim,将AWSNodeTemplate改为EC2NodeClass等。

#闸道API、#服务网格
K8s闸道器API推出4年终于进入1.0正式版,但服务网格支援仍在实验阶段

用来管理K8s网路服务模式的K8s闸道器API,经过4年发展,终于释出了1.0正式版,包括#配置程式码化、#IaC
云端配置管理新选择,Pulumi ESC能用程式码同时管理配置和机密资料

基础架构程式码化管理工具商Pulumi,最近推出了一款可用来管理所有云端基础设施、应用程式环境机密与配置的工具Pulumi ESC,可搭配配置即程式码(Configuration as Code)策略,让维运人员撰写程式码来管理机密与配置的阶乘结构。这款工具可单独使用,也可以与Pulumi IaC搭配运用,进一步强化配置管理的灵活性。透过Pulumi ESC CLI,用户只需要使用一个指令,即可立刻经过身分验证,短期存取任何云端供应商的云端凭证。所有环境操作都被详细记录下来,确保用户能够追踪每个值的来源和变动。此外,Pulumi ESC融合身分验证和基于角色的存取控制(RBAC)功能,确保组织内部资料的存取安全。

#Docker桌面、#记忆体优化
桌面版Docker小更新,4.24版能大幅释出容器不用的记忆体

在2023年度产品大会上,Docker宣布桌面版Docker发布4.24版,这次小改版,主要是将资源节省功能(Resource Saver)和Docker Compose Watch纳为正式版功能。资源节省可以自动侦测桌面版Docker所使用的记忆体,更快也更有效率的分配记忆体,官方宣称,当Docker桌面版没有启用任何容器时,可以大幅减少高达10倍的记忆体耗用。包括Windows、Mac和Linux版本都支援。另外,4.24版也优化了Docker桌面版中对于Docker引擎状态和相关操作的整合,让开发者更清楚一键就能执行许多指令,来简化容器任务的操作。

#SBOM、#软体供应链安全
软体供应链追踪工具Docker Scout正式上市,来提高容器应用开发的能见度

Docker官方正式推出Docker Scout,可用来监控和管理,整个容器应用程式从建置到部署的开发流程,能整合Sysdig、JFrog Artifactory、AWS ECR、GitHub、GitLab、CircleCI和Jenkins等多种工具,提供开发者有关保护和管理供应链的即时建议和分析结果,还允许开发者根据现成的政策,持续评估容器映像档,确保这些映像档符合软体供应链最佳实践。除了根据监控结果和政策评估提供建议,助开发者最佳化和保护应用程式之外,官方还强调,该工具的监控范畴不仅限于生产环境中执行的容器映像档,而广泛地涵盖整个软体供应链。此外,Docker Scout也推出一套建议的工作流程,特别适合以Docker信赖内容为基础建置Docker容器映像档的开发者。

#微软开发工具箱、#Docker桌面版
微软开发工具箱开始内建Docker桌面版,可以预先配置常用映像档

微软正式推出开发工具箱Dev Box后大受好评,在今年年底Ignite大会上进一步推多项新功能,其中一项重要更新是将内建Docker桌面版的映像档,可与用来和原本就内建的Visual Studio一起用来开发云原生应用。这也可以让开发者可以预先配置好的容器应用映像档,来建立一个个不同用途云原生应用的开发环境,需要时就直接开始一个开发工具箱。微软也强化了开发工具箱的配置程式码化能力,更容易针对不同开发者进行客制化或个人化的设定。企业可以预先设计不同开发团队成员或专案任务所需的开发工具箱,内建对应的配置和基础容器应用档,快速开启来使用。

更多新闻

Docker发布远端建置工具Docker Build和更完整的除错工具Docker Debug
CNCF宣布eBPF网路管理专案Cilium结束孵化阶段,成为独立运作的开源专案
Linkerd发布2.14新版,强化多丛集在共享网路上的部署能力

责任编辑:王宏仁

图片来源:Docker、Pulumi、Grafana Labs