高雄大学资工系团队打造一款生成式AI应用平台Kuwa GenAI OS,提供使用介面,能支援多种地端和云端LLM,如GPT-3.5/4、Gemini-Pro、Gemma、LLaMA2、OLMo等。
萤幕截图
重点新闻(0322~0329)
Kuwa 生成式AI TAIDE
高雄大学资工系开源生成式AI应用平台
光有大型语言模型(LLM)还不够,还得要有一套应用介面才能发作最佳效果,就像是机器人大脑得要有身体和四肢一样。高雄大学资工系系友就打造一款名为Kuwa GenAI OS的生成式AI应用平台,提供使用介面、可支援多种生成式AI应用,就像是机器人的身体和四肢,能让开发者串接多种LLM,来打造所需的生成式AI应用。
团队表示,他们将Kuwa系统定位为平台,可让使用者串接所需的模型,并开发上层的生成式AI应用。目前,Kuwa系统可串接多种常见的地端和云端模型,像是GPT-3.5/4、Gemini-Pro、Gemma、LLaMA2、OLMo、Code LLaMA、Taiwan LLaMA、Breeze等,之后国科会TAIDE模型开源,也能支援串接。尤其,Kuwa系统还能用来管理、分配多台机器上的模型资料,来支援具备权限控制的多使用者生成式AI应用情境。
根据简介,Kuwa GenAI OS能提供群聊、引用、完整Prompt列表的汇入/汇出和分享等功能,还能灵活组合提示(Prompt)、RAG、Bot、模型、硬体/GPU等元件,来满足应用所需。此外,它也支援各种执行环境,包括虚拟主机、笔记型电脑、个人电脑、地端伺服器和公私云端。Kuwa系统是在国科会TAIDE计划的支持下投入开发,团队日前也成立Kuwa开源社群,盼更多人投入,来促进生成式AI应用发展。
EVI有几种特色,包括能以与人类相近的语气回复,还能根据使用者的情绪来调整语气,也能侦测使用者语气,来判断对话是否结束。同时,EVI也能自然地从对话中断处,继续新一轮对话。此外,EVI还能提供语音对话的文字转录,以及文字转语音功能,也能整合任何语言模型。Hume AI预计在4月正式发布EVI。 OpenAI 语音生成 Voice Engine 15秒样本就能生成逼真语音,OpenAI发表语音生成模型 OpenAI最近揭露一款语音生成模型Voice Engine,可根据任一15秒的语音样本,生成一段自然的语音,而且富有感情。OpenAI表示,Voice Engine专案在2022年底就已启动,目标是要为自家的文字转语音API、ChatGPT语音和朗读功能中的预设语音提供支援。 不过,担心避免遭到滥用,OpenAI并未对外开放这款模型。他们自2023年底开始与一小群值得信赖的合作伙伴测试模型,目前也有不少进展,比如可用来加强教育,为儿童提供阅读协助,又或是用于翻译,模型能将影片和Podcast翻译成多种语言,并保留口音特色。另一个例子则与社区健康有关,可用来强化偏远地区医疗沟通和咨询服务,甚至,还有一家神经科学研究所用Voice Engine来辅助言语障碍患者表达。 Neo4j 微软 资料分析 强化资料分析和AI应用,微软旗下服务整合Neo4j图资料库 Neo4j联手微软,在微软旗下Azure OpenAI服务和Fabric分析平台整合Neo4j图资料库功能,用户可更好地处理结构化与非结构化资料,从中发现资料隐藏的模式,用来强化生成式AI应用程式。 Azure OpenAI与Neo4j的整合,在架构上可分为知识的撷取和使用。在资料撷取上,由Azure OpenAI处理非结构化资料,将这些资料存到图资料库中,用户可用Neo4j的查询工具,来撷取有用的分析结果,而来源资料可留存在Fabric、Azure Blob储存或其他位置。而在知识的使用上,用户同样可透过Azure OpenAI服务,以自然语言查询,即便没有图资料库专业知识,也能轻易上手。 行销 Adobe 生成式AI 瞄准行销内容需求,Adobe推出GenStudio预览版 日前Adobe在年度大会上,发表一款预览版行销人员专用的GenStudio产品,主打用生成式AI来优化内容供应链。进一步来说,GenStudio涵盖跨通路行销所需的各种工具,以生成式AI为基础,可让企业用来快速寻找和生成资产、打造各种作品,还能根据即时的内容效能洞察来优化体验。比如,行销人员可针对品牌、客户角色及产品描述训练AI,来产生符合需求的文案和图像,或用AI来审查内容。 GenStudio可分为3大特点,分别是工作流程与规画、创造与生产、启用与递送,而每一特点都由不同工具支援,可整合、流畅地执行内容供应链。虽然GenStudio仍在预览阶段,但试用过的企业Orvis发现,制定专案计划的时间减少75%,JLL创意团队在两年内的交付成果增加了250%,T-Mobile在不增加人力的前提下活动产出提高了47%。GenStudio预计今年全面上市。