台新金控近期展示生成式AI实验专案，以生成式AI打造虚拟客服人员，能提供理财投资建议和信用卡建议。
台新金控
随著生成式AI浪潮来袭，台湾不少金融业也开始评估采用这项技术。目前，金融业试用生成式AI的场景以对内为主，例如法规查询工具、开发辅助工具等，协助提升内部人员工作效率。由于生成式AI涉及资安议题，甚至有提供错误解答的可能性，考虑风险因素，金融业较少尝试将生成式AI应用在客户服务。不过，近期也有金融业者开始实验在智能客服导入生成式AI，台新金控正是其中一家金融机构，是少数开始实验生成式AI应用在对外服务的业者。
今年十月，台新金控揭露生成式AI进展。他们不只制定AI发展关键因子和AI导入指引，还发展4项实验专案，包括协作平台的聊天机器人Teams Chatbot、知识管理平台、程式码撰写助理Codex，以及虚拟智能客服。近期，他们对外展示了其中一项实验专案，两个拟真客服人员，分别提供理财投资建议和信用卡建议。
台新金控表示，由于理财商品属于公开资料，没有客户资料，较不具机敏性问题，因此优先选用信用卡建议和投资建议作为实验项目。台新金控实验的虚拟智能客服，并非仅使用微软建置在云端的模型，而是分别采用云端模型和地端模型进行实验，以了解各个业务场景适合使用的模型。
在理财投资建议AI客服人员中，是采用部署在云端的模型。他们让使用者与拟真客服人员对话，先使用JavaScript脸部辨识API预测使用者年龄性别，再结合运势测验，例如是否经常运动、如何面对被误会的情况等，分析使用者投资意愿和理财性格，综合以上资讯生成投资建议。在提问过程中，使用者能以语音回复，该客服工具会用Google Cloud Speech to Text API来辨识语音，转换成文字后传送至后端Azure OpenAI服务，来生成回复内容。
后台的运作方式是由团队先将内部问题集和答案资料汇入Azure认知服务，当使用者对测验题给予回复，后台会进行认知搜寻，先在文件内容建立嵌入（Embeddings），再由Azure Cognitive Search拆分查询字串、请求最类似答案。最后，会由Azure OpenAI服务将答案组合、传回前端，由虚拟客服给出回答。
而在提供信用卡建议的AI客服人员中，则是采用地端模型，当使用者向拟真客服人员提问后，会经过STT工具将语音转文字，传至模型生成回应，再透过TTS将文字转语音，回应给使用者。
台新金控表示，即便Azure OpenAI服务提供的模型发展相对成熟，但金融服务需要注重资安问题，若业务涉及个资，可能得优先考虑使用部属在地端的模型，因此在实验阶段也会观察地端模型的可用性，协助未来评估生成式AI应用发展。