巴基斯坦前总理以Deepfake声音向群众发表演说

目前身陷囹圄的巴基斯坦前总理日前在AI Deepfake技术协助下,向支持群众发表虚拟演说。

巴基斯坦前总理Imran Khan领导的巴基斯坦正义运动党(Pakistan Tehreek-e-Insaf,PTI)本周日利用脸书、YouTube及X等社群平台,举行了2024年国会大选第一场为时近5小时的虚拟选举活动。Khan为巴国前板球国家队队长暨慈善家。今年8月他在总理任期间遭控收贿且拒绝配合调查而被捕入狱至今。PTI被禁止集会活动,Khan本人也不被允许参选,以及出现在媒体上。

PTI以Khan草拟的演说稿透过律师携出,由该党运用一家AI公司ElevenLabs的技术,以其音讯档为样本模拟成其声音。这场大会穿插Khan过往公开演讲的影片及活动照片,他4分钟的AI演说在虚拟大会中最后播放,影片也说明此为Khan的deep fake声音。

PTI党希望以社群及AI技术吸引年轻选民支持,也表示Khan是该党活动的灵魂人物。Khan AI版声音向群众表示,他为这次历史性的尝试赞美社群平台,而他对真正自由的渴望更加强烈。

即使巴国政府周日为阻止这场线上活动,切断网路7小时,但该活动仍然从多个平台上吸引了超过450万次点阅率。

《The Guardian》引述一些巴国民众看法,认为声音太不真实,文法也怪怪的,但是一些用户仍对PTI党运用现代科技绕过当局审查的尝试表示赞扬。