瞄准生成式AI浪潮，老牌台湾ERP厂商鼎新电脑在11月初更名为鼎新数智，要转型为平台供应商，今天（11/19)进一步发表了GAI产品战略和六款新AI助理服务。
鼎新去年就发表了用Azure OpenAI服务打造的METIS数智平台，推出一款AI助理，可用自然语言方式来汇整跨文件知识、进度追踪等特定任务。鼎新今天更详细揭露了如何将GAI技术整合到鼎新ERP产品线的布局。
鼎新数智WorkFlow暨ERPII方案中心总经理黄盈彰指出，鼎新AI产品战略分为三层，最一层是AI模型建置，可提供以产业领域知识预训练的LLM模型，也可供企业自行微调，及落地部署的软硬体设备。
除了使用微软的OpenAI服务上的模型，鼎新也以开源商用模型LLaMA的2.5版（也就是Code LLaMA)的 34B参数量版本，最新的LLaMA 3.2版的90B参数量版本为作为基础模型，用自行搜集的产业领域知识（以制造业为主）、专业术语的素材，微调出一个鼎新大模型，也强化LLaMA繁中语言能力较弱的问题。鼎新PaaS服务所用的模型主要是90B参数量的模型版本，而落地部署设备所用的模型则是34B参数量的版本。
接著，鼎新再用LoRA架构的作法，以不同领域知识，训练出不同领域、功能的小模型，以外挂模型的形式，来搭配鼎新大模型，强化对特定领域的能力。
第二层是应用开发平台层，提供助理设计工具、外挂程式等，可供企业客制AI应用。第三层则是订阅式的生成式AI应用服务，先推出6款AI助手服务，包括了知识助理、行政助理、生单助理、设备助理、数智助理和决策助理。
黄盈彰表示，他们希望将生成式AI的三项能力，封装到ERP的核心，包括了订单生成、文件总结和报表分析能力。例如，AI 数智助理可以快速回应重点数据，像是读取营运报表和资料库的数据，提供高阶主管或员工想要查询的关键数据，也能生成对比式的表格图表。
或是，另一款订单生成助手或差旅报销助手工具，则利用多模态LLM（目前用的是GPT-4o）的图片理解能力，取代传统的OCR技术，可以不受限於单据中的栏位格式，取得数据来自动输入，自动生成订单或报销用的申请表单，减少人工输入的麻烦。而知识助理则是利用了RAG作法来进行跨文件的搜寻，还能兼顾不同职位的存取权限控管。
为了提高LLM模型对于结构化数据的读取能力，鼎新会先将资料库中的数据，制作成各种不同主题的情报文件，而非让LLM直接存取资料库中的数字，再以提示工程指令，让LLM模型读取这些情报文件，来回答使用者的问题，例如产能利用率多少，接单是否成长等问题。黄盈彰解释，这个方法可以提高不少LLM对数据、数字的解读和分析准确度。
黄盈彰解释，采取微调的基础模型搭配LoRA架构小模型的作法，企业可以用自己的资料来训练自己的外挂小模型，来搭配鼎新大模型使用。另外，采取这样的大小模型搭配作法，日后基础模型若有新版，只需重新微调基本的鼎新大模型，即可搭配企业原有的外挂小模型来使用。
目前，鼎新正在开发一款用生成式AI打造的ERP程式码助手，整合了鼎新过往开发各产业ERP的知识，已经可以用来检查ERP程式码的错误，甚至可以分辨出多种业务逻辑的问题，来协助ERP工程师加速开发。鼎新内部ERP产品开发辅助已开始试用这款程式码助手，日后计划发展成对外的产品功能。
鼎新数智制造事业群台湾副总裁梅祥云表示，未来会朝平台生态圈的方向发展，甚至连手其他软体开发商，在鼎新的GAI平台上提供服务。