Google不只推出了Gemini新模型，也推出了Web版GAI开发工具AI Studio，可以输入文字和图片，也可以支援繁体中文。
公云巨头纷纷瞄准继企业生成式AI开发需求，推出了各自的GAI技术架构和开发套件。紧接在11月底AWS揭露GAI产品战略之后，Google也在12月初，发表了最新也是他们最强的LLM模型Gemini，隔周更在GCP的AI开发套件Vertex AI上释出了企业用的Gemini Pro版模型预览版，开放企业免费试用。Google同步推出Web版AI Studio开发工具，也将自家MLOps开发平台Vertex AI转为聚焦企业GAI开发的LLMLOps平台，要涵盖开发、部署到维运更多模型生命周期阶段的需求。
Google在12月初正式发表了Gemini，包括高阶Ultra版，中阶Pro和低阶Nano版模型。Gemini Ultra将可以同时分辨和理解文字、图片和声音，也可以用来分辨和解释几种热门开发语言，包括Python、Java、C++。Google推出Gemini模型时就强调，与其他知名大型语言模型如GPT、LLama最大差异是将提供一个行动装置的小参数模型Nano版Gemini。
Google先在Vertex AI平台上架了Gemini Pro模型API预览版，这是Gemini三款模型中的中阶款。又细分为两款API，目前只支援文字输入和文字生成的Gemini Pro，最大可以输入32K个Token，支援38种语言。另外，也提供了Gemini Pro Vision端点，可接受文字和影像输入，但只能输出文字，Google在记者会上实测展示时，则可以直接输入一段影片，让模型来判读影片中的元素。Google用「模型端点」而非另一款模型来形容第二款API，意味著，这是同一个Gemini Pro模型，只是多释出影像功能API来区隔版本。
Gemini Pro从现在开始提供企业和开发者免费测试，2024年才开始正式收费，输入和输出都要计价，将按输入文字每千字0.00025美元（10万字约台币1元）或每张图0.0025美元，而输出则是每千字0.005美元（10万字约台币15元）。
而Gemini Pro的SDK目前支援了资料科学主流语言Python、两大行动平台Android的Kotlon和iOS应用的Swift，另外还包括了Ｗeb前后端开发主流JavaScript和Node.js语言。从Pro版SDK所支援开发语言种类更可以反映出，Gemini Pro格外注重未来的行动AI应用开发需求。
除了自家新模型之外，Vertex AI的模型花园中，也一并增加了文字生成图片的Imagen 2模型，可以生成更拟真的图片。另外也将在数周后释出了一个以Med-PaLM 2模型为主打造的医疗GAI模型产品集称为MedLM，中国医药大学附设医院将是亚洲第一家采用这款医疗GAI模型的医学中心。用医疗资料微调过的Med-PaLM 2以85分高分通过了美国医生执照考试，可以达到医疗专科医生的回答水准。
推出Web版AI开发工具，Vertex AI也强化模型开发到部署功能
除了新模型上架化，Google也正式推出了免费的Web版GAI开发工具AI Studio，（前身是MakerSuite），预设就是使用Gemini Pro或Gemini Pro Vision来开发AI应用，每分钟可以免费使用60次模型请求。实测AI Studio，目前已经可以输入中文，也能产生繁体中文的内容，不过，AI Studio上的Gemini Pro模型目前只支援到2023年8月的资料。
Google在今年5月开始大幅升级机器学习开发平台Vertex AI，更聚焦提供各种生成式AI的开发工具。在这个平台的模型花园清单上，提供了超过130种通过Google企业级安全品质审查的ML模型，包括了开源和第三方提供的商用模型。在模型客制化上，这个平台提供了多项微调方法，例如提示设计、LoRA微调、人类回馈增强学习RLHF等。
随著这次新模型释出同时，Google也宣布了多项Vertex AI更多新功能，从模型增强，与外部资料或API的互动，多模型的协作框架，自动化模型评比，更多GAI控制机制等，逐渐从模型开发，延伸到了模型部署，维运管理等LLM模型的MLOps流程。
Vertex AI增强工具主要提供三大功能，包括强化搜寻常用的嵌入检索机制，设定配置就能快速建置的RAG（检索增强生成）工具，也可以串接外部的向量资料库，图片或影音转换成向量后可以储存到向量资料库，透过Vertex使用Gemini来实现多模态的嵌入检索，可使用GCP托管或第三方的向量资料库。Vertex AI将提供到18种不同的GAI控制或负责任控管机制，例如可以自动引用连结检查，企业基础正确性比较，或像是不宜用语和不雅影像过滤等。
此外，Google也将陆续提供3项模型与外部环境互动的能力，8月先宣布了预览版外挂机制（Extension），可以连结到外部资料源或是外部应用，让生成式AI模型可以取得即时的外部资讯，甚至可以代表模型操作者的身份，在授权后取得个人化的AP资料。后续，Google将将新增「函数呼叫」（Function Calling）能力，可以将Gemini生成的结果自动汇出成一只API或一只函示程式。企业可以在这只功能性API中再次优化模型输出的结果。
将推出多GAI模型协作的调度框架
另外一项将新增的功能是调度（Orchestration）多模型协同运作的能力，Vertex将可以用来调度多个模型互相运作。例如在手机上用Nano版模型接收使用者口说的问题，先将问题声音转成文字后，再抛转到云端的Pro版模型来生成回答，然后再抛转给使用者。Google将提供一套调度框架，可以用来串连和连结不同模型共同产生更好的回应内容。不过，Google还没揭露这套调度框架的释出时程。
在这次新版Gemini预览版释出同时，Google也揭露了Vertex AI平台多项模型评估和部署新功能，模型自动评估矩阵从单一模型评估，新增加了多模型评比功能Auto SxS，可以一对一自动比较两个模型对指定任务的执行结果，例如进行不同模型的A/B测试之用，或是比较微调前后，或相同模型但不同参数大小的效果。当模型部署上线后，可以追踪每一次回应从输入到输出的速度来了解模型效能。
Google新推出的AI Studio与Vertex AI采用了相同的资料安全和隐私控管机制，都可以支援顾客自带金钥、VPC控制、存取透明度纪录和IAM权限控管。Google Cloud执行长Thomas Kurian在发布记者会上强调，企业资料只有企业自己可以存取，其他任何人，就连Google都无法看到模型输入、输出或每一项人类回馈到企业模型的资料。
今年3月，Google释出了NoCode的AI工具Vertex AI Studio，主要提供两种常见企业AI应用的快速开发，包括了「搜寻」和「对话」应用，这两项应用将会在2024年初开始支援Gemini模型。目前搜寻功能只能针对单一资料来源查询，2024年时将新增一项「混合搜寻」(Blended Search）应用，只需要输入一个搜寻指令，就能用Gemini来搜寻不同资料来源上的多模态资料，包括企业内部私有的结构化资料与非结构化资料，还有外部的公开资料。
Google预计在2024年初正式推出Gemini模型后，会整合到更多服务中，包括了Google企业级进阶搜寻服务将开始支援多模态嵌入向量搜寻。而Duet AI for Workspace明年初也会引进Gemini模型，可以对分析内容提供多模态的进阶理解能力。文⊙王宏仁