In The Loop 科技周刊#2：从 Taylor Swift 事件看 2024 超级选举年的严峻挑战

In The Loop 科技周刊记录每周值得分享的科技内容，周日发布。本周刊开源¹，欢迎投稿²。

这几天，在 Twitter 等平台上关于 Taylor Swift 基于 DeepFake 技术生成的虚假照片事件引起了广泛争议³。美国白宫政府发言人对该事件表示震惊，并强烈谴责，提出社交媒体平台需要发挥更大的作用来防止类似事件再次发生，并且国会也将针对人工智能带来的挑战对此立法⁴。

The spread of fake photos is alarming and obviously shows that legislation is needed…

(social media platforms) have an important role to play in enforcing their own rules to prevent this type of material from spreading… We know that lax enforcement disproportionately impacts women and also girls, sadly, who are the overwhelming targets of online harassment and also abuse… This problem is not new… Of course Congress should take legislative action…

DeepFake 技术⁵ 技术并不新鲜，早在 2017 年已经有很多知名公众人物受害于 Deepfake 技术生成的视频和色情片。在 2018 年就已经有人基于 deepfake 通过伪造 Obama 的视频来警告人们不要轻易相信相关的视频。

进入 2022 年，随着 MidJourney 和 Stable Diffusion 等相关技术的发展，目前通过 Deepfake 技术来人们的视频和照片的门槛已经越来越低，而像本次 Taylor Swift 这样的病毒式传播的时刻额可能将会越来越多。

这个问题严重性的另一点在于，随着人工智能图像和视频生成的技术进一步发展，与此相对应的检测技术还没有完全跟上，如何快速发现和禁止相关内容成为目前的巨大挑战。更不提立法等相关措施，因其严肃与冗长的环节，他们往往会落后于技术的发展。

早在 2023 年底，经济学人即预警了 2024 年的超级选举年，全球将有 70 多个国家或者地区举行重要选举，覆盖人口约为 42 亿，超过全球半数人口。这一系列的选举可能将会给全球政治格局带来更多不确定性，其中最重要的包括：

• 美国大选：大概率将成为拜登与特朗普的复赛
• 俄罗斯大选：普京大概率将会连任
• 欧洲议会选举：英国脱欧后的首次欧洲议会选举，也是乌克兰危机与巴以冲突后的一次大选
• 英国大选：英国工党可能取代执政 13 年的英国保守党，入主唐宁街
• 印度大选：莫迪可能追平尼赫鲁，成为印度历史上第二位连任三届的总理
• 台湾地方领导人选举：尘埃落定，民进党将会把台湾带往何方

在这些选举中最重要的，必然是美国大选。作为这一次生成式 AI 的发源地，此次大选也是美国第一次在生成式 AI 迅速发展的背景下进行，而当下美国联邦法律对此相关监管仍存在较多漏洞。

2024 年 1 月，美国 2024 年总统选举共和党党内初选在新罕布什尔州举行。该州不少选民表示，近日接到「总统拜登打来的电话」，要求他们不要在周二的初选中投票⁶。该语音中使用了拜登的经典口头禅 「What a bunch of malarkey」，目前白宫已经证实该电话并非拜登本人，同时表示对新兴技术的潜在威胁感到担忧。

2023 年 6 月，美国佛州州长德桑蒂斯的竞选团队发布造势视频，抨击前总统特朗普任内抗疫不力。视频中出现了由AI生成的特朗普拥抱及亲吻前白宫首席防疫顾问福奇的照片，引发争议。 　　 2023 年 4 月，拜登宣布竞选连任后，美国共和党全国委员会发布了一段描述「拜登连任后美国将迎来末日」的视频，展示银行关门、难民人满为患等由 AI 生成的画面，警告选民不要支持拜登。

在 Nature 最近发布的 2024 年最值得关注的七项技术⁷中，Nature 杂志即指明 Deepfake detection 将是 2024 年需要重点关注的方向，尤其是面临美国大选的当下。

The explosion of publicly available generative AI algorithms has made it simple to synthesize convincing, but entirely artificial images, audio and video. The results can offer amusing distractions, but with multiple ongoing geopolitical conflicts and a US presidential election on the horizon, opportunities for weaponized media manipulation are rife.

在 State of AI 2023 年度总结与预测中，其中之一即包括「一家生成式人工智能媒体公司因在 2024 年美国选举期间的滥用行为而收到调查」。

这将又是一次经典的猫鼠游戏，算法研究员提出新的算法来生成更加逼真的 AI 生成图片/视频和语音，同时另一批研究员需要研究出更好的算法来识别出这些内容的真伪。在技术上对于这个问题的研究与破解可能还将持续多年，在 2024 超级选举年的当下，此刻的问题又将何解？