美国FTC提案强化人工智慧技术监管,打击AI相关冒充诈骗行为

美国联邦政府近期接连针对人工智慧科技带来的负面影响采取行动,先是FTC先就冒充个人提出补充公告(Supplemental Notice)以征询公众意见,规则变更将扩大当前对冒充政府和企业的诈骗保护,官方提到,有鉴于冒充诈欺案投诉大幅增加,而且包括深伪在内的人工智慧技术加剧诈骗损害。这些原因驱使FTC积极采取行动检测并阻止冒充诈欺。

FTC寻求公众对修订法规的意见,讨论的重点包括提供创建图像、影片和文字服务的人工智慧平台,在知道其所提供的商品被用于冒充并诈骗消费者时,这些公司是否应被视为违法。

FTC主席Lina M. Khan提到,诈骗犯罪者正使用人工智慧工具,高精准度且大规模地冒充个人。当FTC提案的法规修订最终通过,官方认为可强化其解决人工智慧诈骗问题的能力,并替受到伤害的消费者提供补救。

除了补充公告寻求公众意见之外,FTC也已完成对政府和商业冒充规则的最终制定,FTC将能够直接在联邦法院提起诉讼,要求利用政府或是商业机构身份的诈骗犯,退还不法所得金钱。而这项法规的修订之所以重要,是因为在2021年AMG Capital Management LLC对上FTC的案子中,最高法院的裁决明显限制了FTC迫使被告归还受害消费者金钱的能力。

FTC提到,近年政府和企业冒充诈骗已造成消费者数十亿美元损失,而在2023年向FTC提交的诈骗报告大幅增加。而该修订法规将授权执法机构更有效地打击诈骗,允许FTC在特定情况下,就诈骗直接向联邦法院寻求金钱赔偿。

主要打击三种诈骗行为,第一种是使用政府印章或是商业标志进行通讯的行为,当诈骗犯罪者在与消费者通讯时,无论是透过邮件或是线上,不当使用政府、企业的官方标志或是徽章,以增加诈骗讯息可信度,将成为FTC主要打击目标之一。

第二种FTC要打击的诈骗行为则是伪造政府、商业电子邮件和网址,诸如创建介面与真实官方网站相似,但是网域名称在拼写上错误的假网站,试图误导消费者以为假网站是真正官方沟通管道的行为。第三种则是虚假暗示自身与政府或商业关联,诈骗犯罪者使用让人认为他们代表政府机构或是商业实体的语言或是术语等行为。FTC将拥有更多权力追诉和阻止这些诈骗行为。

这两项内容将会出现在美国《联邦公报》,政府与商业冒充最终规则将会于《联邦公报》公布日起30天后生效。而对于补充公告规则公告(SNPRM)的公众评论期,将会在《联邦公报》发布日起开放60天,让公众提出意见和回馈。