「AI创新」,这是多数资讯长和资安长今年最重要的目标,也是对生成式AI浪潮最大的期待,但要如何找出GAI的机会,克服种种背后的挑战。93位来自一般制造、高科技、服务业、金融、政府学校的资讯主管和资安主管,分享了他们看到的GAI机会与挑战。
企业已不能只将生成式AI视为新技术,而是一个千载难逢的良机,让企业能够雇用一群博览群书、擅长论述、能操各国语言、会写程式、已达常春藤名校等级的机器人大学毕业生。如何「训练微调」这群机器人员工,进而重塑企业文化及工作流程,赋能而非取代人类员工,将是企业的崭新挑战。 ── 第一银行执行副总暨资讯安全长 刘培文
五个机会 1. 创新应用和产品开发。2. 个性化和定制。3. 效率提升。4. 实现创意。5.数据增强决策。
五个挑战 1.数据隐私和伦理问题。2.技术壁垒。3. 不确定性,需要监控和调整。4. 安全风险。5. 文化适应。── 百亿IC设计公司资讯主管
GAI是新蓝海,IT在企业决策的角色越来越重要 ── 半导体制造业资深副总
当前GAI迅速发展,各厂商争相提供各式各样的服务,今日公认最好的Solution,可能数月后有更强大的替代方案,这种情况非常普遍。在这样的大趋势下,企业面临著双重挑战:一方面,他们必须时刻保持与潮流同步,避免落后于竞争对手。另一方面,初期投入大量资源后,又担心技术发展太快速,初期投入技术还未能发挥综效,就马上落伍了。
面对各种GAI的行销及社交媒体上的宣传攻势,企业不应该随波逐流,让这些技术左右我们的步伐。相反地,企业应以自身的核心竞争力为出发点,利用GAI工具提高工作效率,协助解决自己的问题。就像计算机发明数十年了,但,全世界国小学童还是要学数学的四则运算。工具虽然可以帮我们提升效率,更重要的关键是,必须知道如何利用工具来解决我们的问题。
所以在导入GAI时,不必期望它能解决所有问题,初期只需要投入很少量的资源进行实验,找出真正能够显著提升效益的工具,等取得一定程度的成效后,再决定是否投入新的资源到下一个应用场景上。关键在于保持灵活性,引入GAI工具来提升效率,配合自身的核心竞争力和资源优势,来创造新的机会。── 第一网站研发部副总经理 刘勉志
【挑战】 GAI仍是发展中的技术,具有无限的应用可能性,但还有许多不确定性。企业对外服务或对内使用GAI,考验企业对导入新兴科技的治理成熟度。
【建议】 我认为导入GAI前,是否明确定义使用的目的及预期效益、是否有内外部人力对GAI技术有一定了解及掌握、是否定义达成目标及退场方案等,都会影响导入GAI所带来的效益及风险。其他包含自动化的正确性、资料品质、资料隐私、智财、以及后续的持续监控应对,都是导入GAI的重要议题。── 大型金融平台资安长
【四大机会】1. 提升效率:AI可以自动化许多繁琐且重复的工作,如数据分析、报告生成等,从而提高企业的工作效率。2. 创新业务模式:AI可以用于开发新的产品或服务,如推荐系统、智能客服等,为企业带来新的业务机会。3. 优化决策:AI可以透过大数据分析和预测模型,提供更准确的商业决策支持。4. 提升客户体验:AI可以在客户服务、个性化推荐等方面提供更精准的服务,从而提升客户满意度和忠诚度。
【四大挑战】1. 数据安全与隐私:AI技术的运用可能会涉及大量的数据收集和处理,这将对数据安全和隐私保护提出更高的要求。2. 技术与人才短缺:AI技术的快速发展,需要大量的专业人才来开发和维护,这可能会导致人才供不应求的情况。3. 法规遵循:随著AI技术的应用越来越广泛,相关的法规也不断出炉,企业需要确保其AI应用的合法性。4. 技术整合与适应:对于许多企业来说,将AI技术与现有的IT系统进行整合,以及让员工适应新的工作模式,也是一大挑战。── 百亿营收公司资讯协理
【机会】 员工能力提升与知识经验传承:1. 将生成式AI视为虚拟助手,灵活运用于各部门的各类不同工作场景中,能有效提升同仁们的能力。2. IT资讯部门应跳脱既有框架,成为企业内同仁们的「数位教练」。3. 以生成式AI为核心的企业KM知识库,将如同企业的大脑。KM活化与RAG检索增强生成,是生成式AI于企业的重要应用场景与技术。除了效用与便利性之外,更可以解决企业困扰的问题-人的经验传承。
【挑战】 资安风险评估与管理:企业欲活化与利用数据,同时会面临机敏资料保护问题,需做好风险评估并准备相应的风险控管机制。── 旭荣集团总管理处IT系统专案部资深经理 林宗霖
科技的进步带来了很多便利,AI工具的发展从简单的自动识别和OCR辨识等进步到人工智能客服,AI工具运用到重复工作内容可以减轻员工的作业繁琐, 但AI工具也是个双向刃享受科技进步的同时,也要思考AI工具带来的风险, 过去已发生多起ChatGPT没有安全的管控,自动搜寻公司的敏感资料而外泄,未来,公司会跟著AI潮流发展,但在过程中会同步思考AI的风险及应变措施── 台湾牙易通资安经理 吴紫语
生成式AI可为企业增加创新应用、提升效率及竞争优势,亦可改善业务流程提升客户满意,在健康医疗领域也可利用加强式检索,提供更多医疗辅助,改善部分医疗人力短缺及不足的问题。
挑战方面,普遍问题是专业AI人力的短缺,一般企业无法自己雇用专门的AI人才及经费不足以建置地端的运算能力,因此,企业大部分都采用云端的AI应用,容易衍生资安议题,加上资讯技术整合能力普遍不足也是一个大问题。── 国军高雄总医院资讯室主任 郑重男
潮流带动,让许多企业主「听说到」生成式AI与应用是甚么,让他们能有些许的概念与认识;加上许多软体应用爆发,更快速让他们直接体会并使用到此技术的应用,这远比用说的、想像的、画梦式的给他们介绍好太多了。相关应用上能顺理成章的顺势推动,是很好的机会!但因百家争鸣,应用程度与价格相对的非常混乱,要如何从中找到好的!需要的!自然成为潮流中选择的一大挑战。── 大仓久和大饭店资讯部 林峻正
如何透过法规、资安、保密、伦理与资料只能对内部应用状况下,如何让生成式AI透过资料库资料的训练,自动生成相关临床医护病历资料,减轻临床医护人员负担。这样才能有效让新时代临床医护人员投入医疗照护工作,让临床医护人员有更多时间照顾病人。── 卫福部彰化医院医务行政室主任 黄冠凯
生成式AI技术应用改变了我们使用机器与科技的方式,有很多的题目,可以思考如何透过生成式AI的应用,降低成本甚至激发出更多的创意,将是资讯团队非常好的机会点。同一时间,现有人员因为重复性的工作被AI取代后,要如何转型会是另一个挑战。── 全国电子资讯管理处协理 黄汉杰
资讯单位需要透过生成式AI技术,开始帮助公司各部门思考自己的职务内容,如何做到更升级的工作产出,而公司各单位也需要认知,资讯技术含AI的导入及应用,需要各单位放入年度计划才能达成业务升级的目标。── 全盈支付资讯长 钟明峰
【机会】 医疗流程有许多需要参考各资料来源做结论或是统整的作业,应该有机会可以使用生成式AI解决。
【挑战】 医疗资料多属机敏资料,去识别化不易,难以使用外部GAI服务── 台大医院资讯室主任 陈权忠
有效降低员工耗费在影像判读、病历记载所花费的时间。员工对资讯系统整合生成式AI功能会有更多期待── 大千综合医院副院长室资讯副院长 林祯裕
AI的iPhone 时刻,改变工作本质学能,提升普罗大众善用AI能力,增进创造力与生产力。── 玉山证券资讯长 郭健男
【机会】 过去窒碍难行的想法,透过生成式AI技术会有不一样的机会实现。
【挑战】 找寻适用场域落地应用── 中菲行国际物流商业智慧科技部总监 陈立人
生成式AI若没妥善使用,可能引发智慧财产权等相关争议,需要建立处理机制。── 阿官国际餐饮集团资讯总监 涂荣宗
【机会】 节省人力,提升效率。
【挑战】 隐私保护,内容正确性,人员专业程度下降── 台中荣民总医院资讯室主任 赖来勋
生成式AI可大幅度减少中小型企业利用和开发AI的门槛── 联新国际医院数位发展部部长 徐伟伦
GAI提升员工生产力,但也让资料管理更困难── 新光吴火狮纪念医院资讯部主任 林璟淑
挑战是如何利用AI导入进行决策── 新海瓦斯研展室课长 林宗建
GAI加速数位转型── 南侨集团资讯处资深经理 谢永辉
挑战是人力、技术── 嘉南疗养院资讯室主任 吴郁
静观其变── 禾伸堂企业资讯中心协理 郭建中
GAI六大挑战,包括了1. 内容自动生成但结果未必正确,符合现在快速弹性化应对的世代,造成了两难的问题。2. 对于机敏资料无意识上有可能不自觉泄露,而不自知,或许资料很难界定可以或不可以。3. 资安范畴太过于广阔,资安硬体或软体成本投入无法即时跟上?4. 企业对于培育专业专职的资安人员有所顾虑,无法真正落实。5. AI要符合一间公司企业与文化,其实需要大量投入时间与成本,但高层希望立即产出有效结果,还要用极低的成本。6. 版权无法有效确认图像、文字是否无意识盗用── 连锁餐饮品牌资讯主管
GAI实战经验:生成式AI的建置硬体环境成本需用高速运算的伺服器,相对于我们公司所用AI模型环境,成本高出很多。因此,前置的研究投入成本,是入门研究的重要门槛。虽有小型的生成式AI模型,不过经测试效果没有大型的AI生成式云端服务好。若要将公司专业知识做为云端训练,又有资料外泄的风险。目前维持在小量不具机敏性的资料,进行云端的验证测试,确认其可行性,再提出具可行性的计划预算正式导入生成式AI专家系统。── 高科技业资讯兼资安协理
目前因生成式AI技术具体应用情境,在我们所属产业尚未有实务运作之实际导入案例可参考,但我相信未来生成式AI技术更趋成熟,带给企业的机会是可优化及简化公司所有相关作业流程,提升员工工作效率,及强化上下游厂商客户关系及服务,我还是非常期待AI应用爆发潮的到来.面临的挑战目前可想到的是人才养成与人才短缺问题── 百亿半导体业资讯处长
生成式AI可以加速业务看成,改善工作效率,让提案或创意内容更加容易且轻松达成,可大大提升办公室人员的效率。但AI幻觉与样本偏差容易造成产出资料正确的不确定性,可能对后续决策造成影响,或得花更多时间来验证,现阶段先用于资料文件的生成── 百亿制造业资深IT主管
企业内部快速运用生成式AI于每日各方面的工作中,可节省成本及时间,成为员工的好助手,CIO可以领导收集好的商业应用分享好的案例,尤其用于创造营收为第一优先。挑战则是,要建立企业内部ChatGPT,得保护公司资料并确保资料正确性及可信度,并持续改进── 大型药厂IT主管
【机会】 使用者及公司高层具备AI概念,却又模糊。有想法不一定成熟,对于商业应用层面得以扩大,若愿意投入资源,可以得到相对的报酬。
【挑战】 技术人员经验不足,大家都在摸索。技术与实务结合需要时间验证,需要大量投入资源,产生大企业有AI更强,中小型企业挑战更大。── 老牌营造业资讯部主管
在政府部门有较多的资料与文件不适合对外开放,行政院已公布GAI的使用指引,政府部门也将依该使用指引方式,使用GAI相关应用,所以对CIO会需要更多客制化的GAI服务,不对外公开或私有云的部分连接ChatGPT,这才是后续GAI最大量服务── 政府机关IT主管
【机会】 企业内知识分享应用,增加生产力,可用生成式AI快速应对与处理资安事件。
【挑战】 设计、设定、权限管理不当造成资料外泄(包含内与外部), 骇客对AI系统本身的攻击,骇客也能以生成式AI快速发展自动生成诈骗和攻击工具── 上市公司集团资安长
身为金融业,在主管机关的要求及公司预算下,因为产业特性,需要比较多的时间才能将生成式AI技术应用于客户所需的服务上。但是像程式撰写的辅助如GitHub Copilot,本公司将会先行导入,观察其带来的成效── 金融科技公司技术副总
学习新AI工具,尚不知道应用的C/P值如何。如同每一段时间的新技术,实际运用上是否适合中小企业的环境。生成式AI是资讯安全的挑战,不管是生成式AI造成的资讯外泄,生成式AI对协助恶意程式码产生都降低了网路攻击的门槛。── 金属制造业IT课长
产品生命周期循环越来越快,资讯工具辅以产品开发,如何运用资讯工具的优势,带入公司的产品开发是必然趋势,资讯人员学海无涯,将不再局限于资讯工程上,而得延伸至多面向的商品产品开发,提升自我能力增加自身附加价值在所必然。── 一般制造业IT副理
【机会】 GenAI用在资安维运如Threat Hunting或Log分析、事件应变等,加速人员处理效率。
【挑战】 目前已有WormGPT、FraudGPT等服务,攻击者可能应用类似此类服务加速攻击速度与成功率── 金控资安长
【挑战】 1. 如何分辨出哪些业务适用性最高,而非一味盲从跟随风潮,要能有说服力地与提出需求的各业务单位沟通。2. 在不泄漏公司机敏资料的前提下,如何适当应用来提升工作效率层面。── 传统制造业IT
尚在观望,以传统产业来说,实际应用层面还是未知数,毕竟1. 客户数据样本不够多。2. 应用层面尚未有明朗的方向。3. 传统产业业主对于资讯的投资相对较少,皆以维稳为主。── 饭店业资讯主管
在良好的资料准备与提示工程下,可快速发展出高品质的医疗服务产品,GAI降低资讯门槛,让一般非资讯人员都可能规划与开发许多资讯需求。小规模的企业都可能发展出有特色的服务。── 私立医院资讯室主任
生成式AI技术应用要看产业是否有应用场域或环境。中长期,生成式AI势不可挡。应用于企业环境目前仅限于测试环境,中小企业还是观望的态度。── 3C零售业资讯经理
1. 资安疑虑与成本高。2. 似乎可以提高个人工作绩效,但难以评估。3. 较少有企业方案,或需要高额成本建置企业专属方案,个人认为GAI 还需要时间── 老牌制造业协理