TWM
台湾大现有700多万行动用户，近期公平交易委员会终于通过台湾大哥大与台湾之星合并案，未来两家业者完成合并之后，旗下行动用户规模将一举提高至近千万，势必增加客服工作量。近期台湾大哥大分享科技转型部分成果，针对客户服务方面，运用大型语言模型等AI 2.0技术，来提升智能客服机器人对用户提问的理解，以及回答的正确率。
目前台湾大每月约有149万次的用户需求进线到客服中心，为处理如此大量的用户需求，台湾大哥大的客服中心现有约1,500位真人客服，提供7×24客户服务，除了真人客服团队接听电话，台湾大也透过App、官网、IVR提供客户自助服务，每个月使用量超过600万次，通过这些线上客户自助服务，一方面分担真人客服的工作量，另方面也能降低服务成本。
台湾大也开发智能客服机器人小麦，来分担真人客服工作，应对用户每月提出各式各样问题需求，这个运用AI技术打造的ChatBot，平均每月回复42万次提问，满意度达到95%。
然而，客服团队仍希望通过AI 2.0技术，提升自助服务能力，他们和IT团队合作，分为两阶段，首先是让文字服务机器人更善解人意，能够更精准理解客户的问题，提供更精准的答复，其次是增加语音类型的服务机器人，能听懂客户的提问，以语音回客户的问题。台湾大希望以此扩大客户服务范畴，降低服务成本。
台湾大哥大资讯长室资深处长吴竹松指出，从直觉来看，企业会将资料提供语言模型进行优化调整，再让语言模型来回答用户的提问，结果发现语言模型生出错误答案，因为大型语言模型是天文数量的资料训练，但企业资料的占比可能低于1%，语言模型会根据过去学习资料来生成回答内容，因此有很大机率产生错误答案。
因此，他们改变作法，先将企业的知识点资料库，转换为语言模型能运算的向量空间，让语言模型理解客户的提问，在向量空间内作信度计算，将信度最高的答案回答出来，确保语言模型能回应正确的回答，而非任意生成回答。如果企业的知识点不足，则利用语言模型善于文字接龙的特性，在后台扩充知识。
吴竹松表示，采用AI 2.0优化后，客服机器人小麦相比先前的技术，对于客户艰涩难懂的提问，语言模型的回答正确率提高3倍之多，后台原本将近1万的知识点，也利用语言模型的文字接龙能力，以每周0.2%的速度持续增加。智能客服机器人经过优化后，客户的满意度、回答的正确率皆提高。
其次是打造语音型客服机器人，台湾大哥大展示一段AI客服语音对话，运用ASR语音辨识技术，AI客服能辨识用户提问中所夹杂的国台语、英文，且能辨识企业服务的特殊用语，来正确回应客户的问题。另外，还展示运用语音生成技术，以真人的语音资料，展示能模仿真人发声的模型，可控制说话的音调及语速快慢。
吴竹松表示，在开发AI 2.0的客服机器人过程中，企业面临许多的挑战，这些挑战可归类为4类，第一是挑选适合的语言模型，如何训练及运用模型，第二是让训练好的语言模型和企业应用整合，第三是如何在企业有限的预算下，使用GPU运算训练模型，第四个挑战则是从文字型的ChatBot，发展语音ChatBot。
台湾大将自身经验及服务，整合打包为AI 2.0方案，为AIaaS（AI as a Service）的一站式服务，包括在底层的基础架构方面，提供多云、混合云架构的GPU运算，企业可选择使用的LLM模型，例如台智云的FFM（Formosa Foundation Model），台湾大也与台智云合作，按Token使用计算费用。此外，也提供Tool Kit工具，以及ASR语音辨识、TTS语音生成工具。