高雄市拟今年合并研考会及资讯处成立一级机关,力推灯塔计划发展主权生成式AI强化智慧治理

尽管市府组织已满额编制,高雄市政府在2024年10月启动内部组织小幅调整,将原本的资讯中心提升为资讯处,虽然仍是市府底下的二级机关,但人力及预算较原本的资讯中心增加,市府计划2025年再将资讯处与研考会合并为新的一级机关,借此扩编资讯人力、预算经费,更积极导入新兴资讯科技,近期积极和民间业者合作共同发展主权AI,期望以此加强高雄城市治理。

过去几年政府机关推动数位转型发展,地方政府重视资讯科技发展,以六都为例,台北市较早由资讯中心改制为资讯处,2012年升格为资讯局,近几年在经历COVID-19全球疫情冲击,减少面对面接触下,不论是政府或企业都认识到面临营运危机下,善用数位科技强化营运韧性的重要性,政府也提升资讯单位编制;桃园市政府先前将资讯中心升格为资科局,2023年再将资科局与研考会合并为智慧城乡发展委员会,以市府整体思维带动各机关的数位科技思维;台中市政府也在2022年将资讯中心改制为一级机关成立数位治理局,结合资通讯科技加速台中市政府整体的资讯化发展。

提升资讯单位组织位阶

高雄市也不落人后,早在行政院计划成立数位部作为数位政府转型推手之时,高雄市便有意将资讯中心升级为市府一级机关,但由于市府组织编制已满,资讯单位直接升级一级单位,将牵动市府整个组织变动,而且需要议会审核同意,相关准备工具况日费时,但是提高资讯单位位阶不能再拖,市长陈其迈决定分为2阶段组织调整,先将资讯中心于2024年第三季提升为资讯处,增加人力及预算,2025年上半年计划再与研考会合并为一级市府单位,进一步扩大组织编制。

原本担任高雄市政府资讯中心主任,现为资讯处长的刘俊杰表示,市府决定提升资讯单位位阶有三个考量,首先是数位科技的重要性日益增加,AI例如生成式AI兴起如何推动市政转型,其次是地缘政治使得市府面临资安威胁增加,最后是过去市府各局处根据业务需要有自己的IT人员,但是发展AI需要跨局处、跨领域的资讯整合,提升市府资讯部门位阶,有利于跨机关、跨领域资料及人员、资源的整合。

过去高雄市各机关基于业务各自推动资讯发展,未来资讯处与研考会合并,他认为未来研考加上智慧及算力将是未来高雄市政府数位转型的助力,过去资讯发展为分散的点状发展,「合并后的新组织将负起串接整合各机关的人力、资料、资源,从点连成线并进一步形成面」,刘俊杰说。

倡议城市级的主权式AI

高雄市各局处机关各自推动AI发展,未来新的组织负起市政智慧化发展的推手,刘俊杰指出,未来市府希望打造各局处共同的AI模型,分为两个大脑,其中一个大脑对外服务民众,例如线上1999客服、市民卡等,让民众和生成式AI对话来获得协助或服务,另一个大脑负责对内,成为内部的AI业务助理,针对各机关的业务优化,例如协助产生都市计划书等等。

按高雄市政府的规画,将采落地部署的主权式AI概念打造两个大脑,一方面能避免内部机敏资料、知识财产外泄,刘俊杰认为未来不论是企业或政府都需要发展主权AI,另外,目前云端部署的AI模型如ChatGPT为全能型模型,必需什么都会,导致模型的规模相当大,用于训练的费用相当高昂,而采用主权AI概念,使用比较小的参数规模,发展领域型的AI,需要的GPU算力也比较小。

另一个发展主权式AI的原因是适地性,必需能适应当地的法规习惯,刘俊杰指出,目前生成式AI多为美国发展,除了语言文化差异,以交通为例,美国的交通号志及标线和台湾不同,需要针对台湾的法规、标线、号志重新微调模型,是发展主权AI的另一个重要原因。

然而,高雄市政府积极发展主权AI、生成式AI,资讯处欠缺足够的人才。

高雄市政府资讯处长刘俊杰

刘俊杰直言,现行的高普考制度并未将AI纳入考试项目,资讯人才虽然熟悉IT,但很难跟上现今AI发展速度,透过市府资讯部门组织调整,扩大编制预算,对外网罗AI人才,以外聘雇的方式招募相关人才进来,协助市府发展及应用AI。相同地,面对愈来愈多的资安威胁,通过组织调整也能招进需要的人才。

目前高雄市府优先以约聘雇方式招进需要的人才,除了AI需要的人才,还有大数据分析等领域,资安方面则需要具有白帽骇客能力的人才,此外,还需要具备资料整合、资料池,熟悉混合云方面的人才。

发展文字型生成式AI客服及业务助理

如同前面所说的,高雄市政府规画发展两个大脑,一个大脑对外服务民众,另一个则是AI业务助理,提升内部业务工作效率。市府计划结合生成式AI,发展LLM的文字型AI,目前与不同AI服务业者合作测试Hugging Face上不同的模型及方案,以发展对外服务民众的AI客服及对内的AI业务助理。

刘俊杰表示,市府目前仍在测试合适的模型,针对台湾的语言、法规、文化用词进行微调,除了测试Hugging Face上面不同的模型,还有国内资讯服务商为本地业者微调的模型,以及国科会计划下发展的繁中大型语言模型TAIDE,透过各种测试寻找符合需求,且能撙节成本的模型。

然而政府机关在对民众服务运用生成式AI,考量到民众对政府服务应具有公信力、高度正确性等期待,如果政府服务出错就很容易导致外界的批评,因此高雄市对于政府服务运用生成式AI相当谨慎。刘俊杰表示,为避免生成式AI给出错误的答复,将运用RAG技术将语料源限制于32个局处的网站文字,同时也会接受第三方验证生成式AI,包括可解释性、透明度等指标,民众使用服务之前先声明验证结果。

「尽管服务采用生成式AI很难避免百分百不会讲错,但透过事先的声明,仍希望更多人的使用,让生成式AI在微调之后能够变得更准确」,刘俊杰说。

不论是对外服务的AI客服或内部使用的AI业务助理,市府并没有给出明确的服务上线时间,但强调每年都会检视需求进行调整。

发展影像型生成式AI提高城市智慧治理能力

除了文字型LLM模型之外,高雄市近期还启动一项前瞻性的计划,智慧高雄灯塔计划,高雄市政府和Nvidia合作,与业者合作租用Nvidia GPU算力服务,还有CUDA的软体应用方案,包括影像分析方案metropolis、可打造数位孪生的Omniverse,以发展影像型生成式AI。

不同于一般生成式AI以文字提示产生图像,影像型生成式AI能够「看懂」CCTV或空拍机等市府类监视器的影像资料源,生成对影像画面状态或事件的描述,并将其报告给市政府,协助市府能快速掌握状况、决策应变、资源调配。

刘俊杰表示,以先前山陀儿台风为例,造成高雄市区内大量路树被吹倒,传统上,由里长、居民、民意代表打电话反映,大多只有口语、位置的描述,未来影像型生成式AI,通过无人机空拍影像,就能掌握不同地区的路树被吹倒的情形,供市府决策哪些地区优先处理树倒情形,在灾后快速恢复交通,和传统打电话反映相比,在生成式AI协助下提供市府更客观、科学的方式进行决策。

未来该影像型生成式AI将会以高雄市府各局处的资料为基础,以高雄市在地的资料作微调,让影像型生成式AI能够适应高雄在地的语言文化及法规,从影像中辨识状态或事件,即时向市府回报情报,以辅助市政决策。

未来更进一步结合影像型生成式AI对类监视器影像的分析,还有以物理引擎作为基础建立的高雄市数位孪生平台,将实体世界与虚拟世界连结,通过虚拟的数位孪生,当真实世界发生特殊事件时,例如哪个地区淹水,如果没有即时处理应变,在虚拟数位孪生平台里预测可能为真实世界带来的影响,辅助市府调度决策,提高城市智慧治理。

为了发展影像型生成式AI、主权AI需要大量算力,高雄市在智慧高雄灯塔计划中,参考营建类常见的政府与民间联合开发案例,市府和资服厂商合作也采联合开发模式,由市府与厂商共同制定目标,双方共同投入资源,由高雄市政府投入1亿元,主要用于资料的标注、模型训练等等,合作业者投入价值1.5亿元的设备及服务,包含需要的一年算力服务(计划预估将使用32片B200及16片L40S,满足训练及推论用途),最后由市府与业者彼此共享智财等成果。

智慧高雄灯塔计划发展的大脑为PaaS层,预计于2025年12月底完成,刘俊杰表示,未来亚湾2.0计划将会在PaaS层之上发展SaaS应用试办,包括高雄市政府交通局、捷运局、工务局等机关,和中钢、台电、港务公司国公营企业合作申请SaaS计划,在公部门运用方面,例如交通管理、人流分析、场管等市政问题,如何运用PaaS发展生成式AI应用,至于国公营企业,包括港区的货柜交通运输、灯杆管理、管线维护管理等等也会发展相关应用。

「从公私合作建置PaaS层,到同样由公私合作发展SaaS层应用,才是更完整的智慧高雄灯塔计划」,刘俊杰说。这项计划展现了高雄市政府对于导入生成式AI改善城市智慧治理的企图心,未来不只是高雄自己使用,因法规、文化的接近性,国内其他城市或企业未来也能使用 PaaS,市府正研究后续可行的商业模式。