台湾人工智慧实验室推出FedGPT AgentTeam平台产品,瞄准RAG、微调和自建工作流程3大功能

台湾人工智慧实验室发布FedGPT AgentTeam产品,他们也用平台其中一项功能AgentTeam Flow来打造流程自动化,能根据雅婷逐字稿客户帐号来查帐,缩短人工作业时间。

图片来源: 

摄影/王若朴

台湾人工智慧实验室(Taiwan AI Labs)今日宣布推出代理型AI产品FedGPT AgentTeam平台,主打多专家小模型架构、多模态、可离线执行且用语高度在地化等特色,还支援MCP协定,能整合企业内外部工具与资料,来更自动化完成作业流程。

代理AI平台3大功能:RAG、微调、自建工作流程

进一步来说,这款FedGPT AgentTeam平台由大型语言模型(LLM)驱动,整合了语音辨识(ASR)、文字转语音(TTS)和影像与视觉问答(VLM)等多模态AI模型,能以低程式码/无程式码形式提供服务。

台湾人工智慧实验室创办人杜奕瑾指出,这款产品的目的,是要将企业内部复杂流程自动化,而产品背后的模型则是以Llama等主流开源LLM为基础,再以收集到的资料来优化为各种基础模型。

比如他们有以1,000亿个Token训练出具备台湾知识的通用模型、以150亿Token优化的具备台湾医疗专业模型,以及用10亿Token训练的台湾金融专用模型等。

就整个FedGPT AgentTeam平台来说,主要有3大功能,包括可以理解企业专属知识的AgentTeam RAG、能让员工训练出符合专业需求大脑的AgentTeam Tuning,以及可用拖拉式建立代理工作流程的AgentTeam Flow。

台湾人工智慧实验室核心平台产品总监杜长城解释,AgentTeam RAG可用于专业知识问答,他现场示范,给FedGPT AgentTeam平台一张特斯拉股票走势图,并询问特斯拉执行长马斯克与美国总统川普决裂的那天,特斯拉股价变化如何,AI除了根据图中描述给出说明,也会加上图表文字未说明的下跌百分比(如下图)。

又或是给一张自2018年至2024年的每年度可转债成交金额长条图,AI可以给出详细的趋势解读,包括一些年份小幅下降,但整体走势是上涨的(如下图)。

总的来说,AgentTeam RAG支援多格式、多来源、多模态的知识检索与生成,能处理图片、图表、影片、语音、文字等非结构化资料。台湾人工智慧实验室补充,AgentTeam RAG也会判断问题难易度,选择最合适的解题方式。

再来,AgentTeam Tuning可支援企业内部专业语境,进行多模态模型微调(fine-tuning),如文字、图表、语音、图片等。杜长城在现场展示,一段背景音吵杂的护理录音,若没有以专业资料微调,模型无法给出正确的语音转文字答案。而有了专业资料微调,就能辨识出专业术语和药物名称(如下图)。这些资料也可依使用者需求,汇入到医疗资讯系统中。

另一方面,使用者也能在后台查看,模型微调前后的差异,并测试、比较版本差异。

用AgentTeam Flow自建发文和查帐工作流程

而AgentTeam Flow是一款流程设计功能,提供低/无程式码介面,就算没有专业背景的企业员工,也能快速上手,自动化加速跨部门作业。

台湾人工智慧实验室产业方案总经理黄佳欣指出,他们自己就用这个功能,来用于公关发文作业。他现场示范,建立一套发稿工作流程(如下图),可细分为内容生成引擎和标题创意发想两大类。在内容生成引擎中,又可分为负责社群贴文的社群小编角色,以及产出正式新闻稿的公关专员。

首先,他们将访谈内容输入在右侧的聊天栏,FedGPT会询问生成样式,如社群贴文还是新闻稿,并根据需求产出相应的文章,接著也能产出候选标题。(如下图)

另一个例子是,台湾人工智慧实验室打造的雅婷客服Agent工作流程。黄佳欣解释,早年他们推出雅婷逐字稿服务,随著客户数增加,不少人会打电话询问帐单资讯。通常,团队需要手动查询系统,输入帐号、查询帐单,再告知客户。这个流程繁琐,因此团队决定打造Agent流程来自动化查询。(如下图)

他们将任务分流,包括帐号验证、通报和转介真人服务。由于AgentTeam Flow支援MCP协定、作为MCP Client端,能与同样支援MCP的外部工具,比如企业协作工具Slack、Gmail等。在这个例子中,就能将通报结果串接Slack,来传递资讯。

台湾人工智慧实验室还预告,未来将支援Agent to Agent(A2A)协定,来互通AI代理的资讯、更精准完成任务。未来,平台也会纳入对更多模型的支援。

产业应用范例:金融客服训练员

杜奕瑾指出,FedGPT模型本身具备强大的本土知识和用语。比如在台湾认知测试中,FedGPT分数高达81.4 分(满分 100 分),远高于中国的千问模型(44.3 分)和 Deepseek(38.7 分),显示模型对台湾语境的理解和使用上有极大优势。

FedGPT目前也已应用在不同领域,如医疗、金融、教育、公部门等,花莲慈济医院、辅大医院、东华大学、台新银行等皆已使用。

在发表会现场,也有一家专攻金融业客服服务的厂商华厚,现场展示一套金融客服训练员,可让金融专员更快上手。这套金融客服训练员背后串接不同LLM,FedGPT也在其中,能扮演顾客角色、分析专员的回答并给建议。(如下图)