台北捷运于2022年推出的AI智慧客服，提供旅客乘车相关资讯、报遗失物，以及事件通报。
台北捷运
台北捷运提供的AI智慧客服，协助真人客服减轻工作压力，提供旅客24小时AI客服，不过，近期有网友测试后发现，北捷AI智慧客服竟然可以提供程式码范例，引发其他网友测试，事件发生后，台北捷运接获通报，已紧急要求厂商断开串接Azure Open AI，让AI客服回到旅客搭乘捷运相关问题的应答功能。
台北捷运是在2022年11月推出AI智慧客服，提供乘车旅客即问即答的客服服务，后续还提供事件通报功能，让旅客可以通报饮料打翻、车站或车厢内有脏污等事件，北捷估计每月使用量超过10万人次。今年3月，北捷AI智慧客服升级，串接Azure Open AI，让旅客可以和AI智慧客服对话，提供搭乘台北捷运相关资讯。
然而，有民众近日测试后发现，北捷AI智慧客服功能远不只如此，该民众要求AI协助提供程式码范例，AI客服虽然没有提供完整程式码，但仍提供一段程式码范例，该民众在Threads发文后，在网路上发酵，吸引不少网友跟进测试，以各种不同请求测试AI客服，甚至钓出AI客服的应答规则，更有人调侃网友热心帮台北捷运AI客服除错。
下图截自Threads：
台北捷运表示，接到通报后，已要求厂商立即断开串接Azure Open AI功能，回归到提供旅客常见问答题库，以回应旅客询问，目前旅客询问捷运相关资讯，像是首末班车咨询、遗失物协寻服务等等皆正常服务。
由于事件发生后，吸引大批网友测试，导致该服务使用的Token量爆增，可能导致使用生成式AI费用激增，对此，台北捷运强调，接到通报后已立即要求厂商断开串接Azure Open AI，因发现异常即立即处置，并无明显费用产生。
台北捷运初步研判原因为，网友以程式语言测试捷运AI智慧客服，超出原先设定的资料库范围，系统透过Azure OpenAI回应，因此台北捷运立即要求厂商断开串接功能，回到北捷已建置的旅客常见问题应答。
由于没有对民众提出的问题请求设限，挡掉和台北捷运旅客服务以外的无关问题，如果长时间遭到外界滥用，可能导致生成式AI巨额的收费外，有心人士可能测试各种提问方式，还可能设法骗取AI客服回应企业内的敏感资料，可能衍生出资安的风险。
对此，台北捷运回应，此次虽然一发现异常就立即处置，所幸没有明显费用产生，但后续将邀请相关单位召开会议，研议AI智慧客服精进做法，并请厂商提出检讨报告，由台北捷运公司的资安长督导应用单位建立检核机制。
生成式AI带动一波AI应用浪潮后，不少公司期待运用生成式AI带来的效益，特别是在客户服务方面，因少子化缺工问题，为减轻真人客服的工作压力，导入生成式AI精进AI客服能力，此次台北捷运AI智慧客服，反映企业使用生成式AI对外提供服务，类似应用在上线前应该谨慎检测，避免使用者提出服务以外的请求，可能导致被滥用，甚至产生资安的风险。