台新金控资深经理王正男分享台新金控4项生成式AI实验案例，其中包括知识管理平台，结合内部资料和生成式AI来回答使用者提问。
摄影／王若朴
台新金控资深经理王正男日前（10/18）揭露台新金控生成式AI进展，他们不只制定AI发展关键因子和AI导入指引，还发展4项实验专案，包括协作平台的聊天机器人Teams Chatbot、知识管理平台、程式码撰写助理Codex，以及虚拟智能客服。其中，Teams Chatbot是让金控成员认识生成式AI的第一步，有了成功经验，他们开始结合生成式AI与内部资料，打造知识管理平台，让使用者以自然语言问答查询。该平台虽未上线，但基础建设完整，未来可能扩大发展，如作为智能客服。而虚拟智能客服不只生成拟真的客服人像，还能与使用者语音互动、推荐理财商品。
制定AI发展关键因子，作为金控导入AI的重要参考
面对生成式AI强势袭来，台新金控在今年初列了张发展AI关键因子表格，作为金控导入AI解决方案的重要参考。王正男指出，这份发展AI关键因子表格，罗列了台新金控导入AI的目的、介面、技术、数据、基础建设和人才等因子。就目的来说，导入AI的目标可分为降低成本、增加效率、提升体验、辅助决策和提高收益等，这是团队导入AI时，优先考量的项目。
再来，台新金控重视与顾客的互动，要采用AI，会思考从不同介面与顾客互动，比如文字、声音、图片、影像、虚拟人物、智能设备等。就虚拟人物来说，他们也打造一款虚拟客服服务，已发展2年多，接下来要瞄准智能设备。
至于技术，则可分为机器学习和专家系统2种，进一步细分则有自然语言处理／理解、语音转文字、文字转语音、生物识别、OCR，以及大型语言模型（LLM）等技术。王正男透露，台新金控看好能力强大的LLM，是接下来1、2年的发展重点。
他也表示，如何运用金控大量、高品质和多元的数据来发展AI，提供更好的服务，也是另一个发展AI的关键因子。还有个因子是基础建设，台新金控将其分为储存空间和运算能力，如自建或采公有云。最后一个因子是人才，资料科学家、资料工程师、AI工程师、AI训练师，以及其中最关键的推动者。因为，推动者要能与长官沟通、获得支持，才能让AI导入事半功倍。（如下图）
不只列出发展AI的关键因子，台新金控还根据观察，归纳出AI导入成效不彰的重点，来避免踩坑。这些原因有4个，首先是无法规模化，王正男举例，金控有许多部门，每个部门各自独立、容易发生数据孤岛，或是各自导入功能相同的AI，如金融卡部门导入OCR服务、法金部门也导入OCR服务，这就花费2倍成本，效益不佳。
另一个原因是实验性质过高，比如为导入而导入、未思考商业应用效应。其他原因还有对导入的商业效益过于乐观、成本过高等。这些原因都是台新金控导入AI时要避免的。
制定AI导入指引，扩大应用优于全新导入
另一方面，台新金控也制定AI导入指引，共有4大原则。首先，「导入AI不会减少成本，」王正男指出，因此他们将第一原定为扩大应用优于全新导入，意思是，行内若有既有的AI技术，就会思考如何让这项技术更普及于其他领域，而不只局限于原本的单位内。
第二个原则是业务效率优于技术创新。换句话说，AI新技术推陈出新，比如前些年，人脸辨识、指纹辨识等生物辨识技术遍地开花，台新金控团队会思考，这些技术对业务是否有帮助，而非为成为新闻亮点而导入。
第三个原则是技术导入优于产品导入，也就是「不再以产品为导向，而是以技术为导向。」王正男举例，若业务需要OCR，团队就会思考采购OCR模组，至于能包装成何种业务场景、业务流程，团队则会与协力厂商沟通、包装，来提升技术效益。
第四个原则是外购优于技术移转，且优于自行开发。王正男指出，台新金控内部并未大力发展AI培养能力，因此采外购模式居多，认为外购优于技术移转、优于自行开发。（如下图）
发展4大生成式AI实验案例
于是，他们选定厂商，找来宏碁资讯和微软，来进行生成式AI实验专案。
第1项便是用于协作平台Teams的聊天机器人ChatGPT Chatbot，台新金控首选导入这款Chatbot，是要让集团各单位更了解生成式AI。因为，当时台新金控高阶主管和职员都对ChatGPT印象深刻，但对其局限并不清楚，因此团队想藉导入Chatbot，来创造一个安全的环境，让大家试验、进一步理解生成式AI。
于是，他们在今年3月与厂商规画、建置专属Chatbot，并租用微软Azure OpenAI环境，5月正式将ChatGPT串接至Teams中，提供200个帐号供各单位使用。这项应用，也在台新金控内部举办的6场生成式AI Roadshow中登场，由团队向金控成员介绍生成式AI的潜力及局限。
将生成式AI用于知识管理平台
有了成功经验，台新金控进一步展开第2项实验专案，也就是生成式AI加持的知识管理平台。这个平台能让使用者向AI提问内部问题，并得到相关解答。这项专案的目的，是要验证Azure OpenAI能否用于内部知识管理，于是，金控IT和厂商一起打造这个平台，采用嵌入索引（Embedding Index）来整合生成式AI和自家知识文件，再用指令（Prompt）来调整生成式AI的回答。
该平台的运作机制是先透过AD验证使用者身份，使用者再向生成式AI提问，平台再根据问题搜寻内部资料。这些资料包括内部作业指导书、资讯管理办法、永续报告书和一级以上主管名单，为找出答案，平台会先拆分资料，接著索引找出分数最高的相关资料，来让生成式AI整理，产出回复给使用者。在这个过程中，平台也会记录整个对话，以被稽核使用。（如下图）
王正男表示，该平台还是实验性质、并未上线。因其基础建设完善，未来平台若完整建立，会扩大发展为智能客服或其他应用，「是个非常指标性的专案。」
导入程式撰写助理Codex
再来，台新金控也想验证生成式AI用于程式开发的效益，于是展开另一项实验专案，建立一系列研究，来测试程式撰写工具Codex。这些研究是由使用者提出需求，让Codex从零开始撰写程式码直至完成，包括资料表的建立、增删减与重新规画，使用自然语言对话来产生程式码，以及撰写初阶和进阶程式码、撰写程式码说明等。
王正男表示，为衡量Codex效益，台新金控也以资浅到资深的工程师来手动进行这些任务，对比Codex的任务表现，找出使用的优缺点。首先，人类工程师撰写时间大约1小时，若初阶工程师使用此工具，可提高3至4成的开发和文件撰写速度，中阶开发工程师则能提高2、3成速度，高阶工程师则提升10%至20%。
不过，团队也发现，问对问题是需要训练的，且「问对问题很重要。」再来，就像是对使用者说明一样，工程师使用AI时，也要一步步好好说明问题，而Codex产出的程式码通常无法直接使用，还需要人为调整和判断。尤其是交易类的程式码，只能参考，需要工程师核实再确认。
即便如此，团队建议，金控内部工程师可开始使用Codex来辅助撰写程式了。
打造虚拟客服来推荐理财商品
不只如此，台新金控也用生成式AI打造虚拟客服，也就是生成一个拟真的客服人员，再利用语音转文字、文字转语音、人脸辨识等技术，来推荐理财商品给客户。
台新金控发展这项服务，是要解决几个痛点，比如理财商品众多、理财顾问理解耗时，新进人员训练不易等。因此，他们想用主动行销方式，来协助理专推荐商品，例如透过虚拟客服互动、取得相关资讯（如性别、年龄），再推荐理财商品给顾客，并介绍这些商品。
他们采用的技术有JavaScript脸部辨识API，来预测顾客性别和年龄，再用Google Cloud Speech to Text API来辨识语音，转换成文字后传送至后端Azure OpenAI服务，来生成回复内容。最后再将文字转为语音，由虚拟客服用语音回答顾客，并推荐相对应的理财商品。
而后台的运作方式，则是团队先将内部问题集和答案资料汇入Azure认知服务，当后台收到顾客回答时，会进行认知搜寻，并在文件内容建立嵌入（Embeddings），再由Azure Cognitive Search拆分查询字串、请求最类似答案。最后，会由Azure OpenAI服务将答案组合、传回前端，由虚拟客服给出回答。（如下图）