生成式AI已经成为许多人工作与生活的日常,相关的技术进展与应用一有重大突破,往往跃居传统与新兴媒体的热门议题,例如,用AI生成吉卜力风格的图像,就引发大家争相采用,但也引发此举是否侵犯著作财产权的论战,本期封面故事探讨的部分,恰巧与LLM有关,不过,聚焦的议题是资安风险。
想要了解生成式AI可能面临的资安问题,目前大家第一个想到的解析框架,来自在应用程式资安防护领域颇富盛名的OWASP组织,他们于2023年5月宣布,成立OWASP Top 10 for Large Language Models的计划,8月发布1.0版内容,后续计划名称改为OWASP Top 10 for LLM Applications,最近一次更新是在2024年11月,称为OWASP Top 10 list for LLM applications for 2025,一个月后,宣布成立OWASP Gen AI Security计划,今年3月,更是将OWASP Top 10 for LLM Applications与Generative AI Lists纳入OWASP Gen AI Security计划。
而且,OWASP Top 10 for LLM Applications的正式文件内容,目前有英、中、印、葡、俄等5种语言的版本(原本有正体中文版本,很可惜后来被撤下),为了让更多台湾关心AI资安议题的人士更了解当中的说明,我们在稍早为了今年台湾资安大会而筹备的《2025台湾资安年鉴》,特别企画「快速认识LLM应用程式10大风险」内容,希望抛砖引玉,协助大家得以做好AI资安。
因此,这个专题最初的构想就是快速导读OWASP Top 10 for LLM Applications,然而,要想出一个能够简单表达概念的标题与图像,却不是那么容易。
与执笔的资安主编罗正汉讨论之后,我们想到用「安心上路」表达大家走向LLM应用的心情与期待,舍弃总是用「机器人」来象征AI的比喻,而是改用「开车」前往生成式AI启动的新世界,以此呈现人们驾驭新技术、朝美好未来前进的情景,而且,如果要顺利抵达目的地,除了要了解如何驾驶车辆,更重要的是,必须知道路上可能出现哪些危险的状况,才能够更充分因应各种突如其来的变故,而在驾车的意象上,我们也刻意选择「手握方向盘」的画面,借此呈现我们对新技术的使用,必须持续而有效地掌握,以便降低失控的可能性。
这个场景也让我联想到总统赖清德与副总统萧美琴的竞选广告《在路上》,或许对我们如何安心使用AI带来一些启发。时任副总统的赖清德坐在总统蔡英文驾驶的车子,行驶在公路上,他说,外面好像风很大,但没什么感觉,因为总统开的车很稳,蔡英文也说,因为有副总统在旁边照看,所以能够让她放心开,此时,导航系统的语音指示说重新调整路段、计算中,蔡英文与赖清德都说我们还是继续直走、然后接快速道路,蔡英文此时表示,副手这个位置还是真的很重要,不能随便用凑的,赖清德回应,也许我们做事的方式不一样,但我们理念是一样的,蔡英文也强调国会必须过半,国家才能走在对的路上。对照现在台湾政局如今面临的动荡,不禁使人感慨握住国家方向盘、影响国家方向的,的确并不只是执政者,在野者的理念与价值若无法与台湾发展目标对齐,就会造成国家这台大车无法稳定行驶。
之后,两人交棒,蔡英文下车,改由赖清德担任驾驶、萧美琴上车坐在驾驶旁边的位置,赖清德说,台湾人很幸福,随时可以出发、上山下海,他问萧美琴:「你想怎么走?」,萧美琴说:「我们走民主路,民主路一直走」,赖清德也说:「那我们同一路」,接著两人谈到了台湾有许多部分领先世界其他国家,没有和平以及民主,就不是台湾了。
人类文明发展到现在,关于国家与社会的有效治理仍是持续探讨的议题,领导者与民众的认知与处世态度都是关键,对于AI这样新兴应用而言,也不例外,面对未来,无论兴奋或担忧,别忘了我们是受此影响最大的主体,有了新技术帮忙,还是必须眼观四面,耳听八方,善用与发挥我们的心智与行动力,才能充分因应各种变局。