国泰金控
国泰金控今日在自家技术年会上，正式宣布AIaaS的战略目标，不仅要以AI作为集团核心，驱动转型和推出创新服务，同时，「期待国泰能成为提供AI金融服务的科技公司。」国泰金控数数发副总经理梁明乔说。在活动中，国泰金控首度公开生成式AI技术发展框架GAIA，也揭露了内部AI评测机制。
早在2018年，国泰金控就开始发展大数据，从打造大数据生态圈起步，逐步扩大金融生态系。到了今年，国泰金控宣布在数据发展上进入第三阶段，将透过「AI Ready」、「AI Native」、「AI Empower」三大AI发展策略，实现AIaaS战略目标。
首先，AI Ready是要打造集团统一技术发展框架，同步子公司间的策略和技术。梁明乔公开展示国泰AI发展蓝图，蓝图共分为六层，从下而上，底层为数据架构层，接著是多元数据源层、数据和AI治理层、核心技术模组层、应用场景层，最上层则为组织层。其中，因应集团发展生成式AI，国泰在核心技术模组层加入生成式AI开发框架GAIA，在数据和AI治理层则加入AI评测机制。
AI Native策略则是要将AI嵌入不同业务运作。为了实现这项目标，国泰金控今年设立了AI卓越中心，负责排序集团AI资源，和决策AI开发场景。目前，国泰金控锁定四大GenAI场景，分别是员工、客户、生产力，和AI基础架构。其中，在员工场景中，国泰金控内部已打造一款AI员工助手平台，可协助回应员工提出的业务问题。
最后一项策略，AI Empower，则是要提升集团全员工AI和云端思维，除了要推动云端转型和成立AI专责组织，还要在集团扩大AI影响力。今年初，国泰金控和子公司成立AI专责单位，全集团共有近千名云端、AI和数据专业人员，负责向全集团5万名员工提供AI服务。
首度公开生成式AI技术发展框架GAIA
国泰金控开发的生成式AI开发框架GAIA包含三个主要模组，分别是知识库、Model hub，和护栏。梁明乔指出，知识库可协助降低AI幻觉问题，并且，「未来若要Finetune模型，或打造LLM模型的RAG架构，专属知识库就非常重要。」梁明乔说。
国泰金控展示的知识库类型可分为对内和对外，对内包含HR知识库、授信知识库、洗防知识库和内稽知识库等，对外则包含贷款产品知识、寿险产险产品知识、理财产品知识等。
针对GAIA框架中的Model hub模组，梁明乔说：「Model Hub就是一个中央控制室。」这个模组不仅能提供多种模型选择，包含云端、地端、开源或闭源模型，也提供API接口，能介接各种服务。模组中也提供成本管理功能，能协助开发者管控模型使用开销。
GAIA框架中还包含国泰金控自行开发的护栏模组，包含复合式规格护栏和多层抽换模组护栏，前者是在知识库连接模型时进行资讯过筛，后者则是自建额外防护措施，例如提供业务专属的业务护栏。
建立AI评测中心，确保AI从开发到上线都符合规范
除了公开成式AI技术发展框架，国泰金控今日也公开负责任AI策略。在治理面，国泰金控要建立AI评测中心，专责确保AI发展合规。技术上，国泰要将治理原则化为具体指标，并借由评测工具确保AI从开发到上线都符合规范。
梁明乔表示，国泰的AI评测机制会以AI运用原则、生命周期和模型类型三大构面发展。首先，他们根据金管会金融AI指引的六大原则和数发部AI评测中心的十大评测项目，订定评测项目。在AI模型生命周期中，国泰会使用评测工具检核AI模型，最后产出评测报告。不过，梁明乔坦言，将治理原则化为量化指标并不容易，需要设立多种适当的情境和提问，才能有效检测模型回应。
借由国泰金控建立的AI评测机制，员工能在AI助手平台检视AI模型回应的公平性。（图片来源：国泰金控）