AI 技术在政治中的应用与潜在风险：以马斯克分享的模仿哈里斯声音的恶搞广告为例
AI 技术在政治中的应用与潜在风险：以马斯克分享的模仿哈里斯声音的恶搞广告为例
2024年12月8日修改
在当今数字化时代，人工智能（AI）技术的迅速发展给我们的生活带来了诸多便利，但同时也引发了一系列问题，尤其是在政治领域。近日，一则由科技巨头埃隆·马斯克（Elon Musk）分享的视频引起了广泛关注。该视频使用人工智能语音克隆工具模仿了美国副总统卡玛拉·哈里斯（Kamala Harris）的声音，说了一些她并未说过的话，这一事件引发了人们对 AI 在政治中可能产生的误导作用的担忧。
据报道，这则视频在马斯克于其社交媒体平台 X 上分享后获得了大量关注。该视频使用了许多与哈里斯真实竞选广告相同的视觉元素，但却将哈里斯的原声替换为了 AI 生成的声音，其模仿效果足以以假乱真。视频中的 AI 声音声称哈里斯是因为她是女性和有色人种而被“多样性雇佣”，还称她对管理国家一无所知。这种虚假内容不仅对哈里斯的形象造成了损害，也让人们对 AI 技术的滥用感到担忧。
哈里斯竞选团队的发言人米亚·埃伦伯格（Mia Ehrenberg）在给美联社的电子邮件中表示：“我们相信美国人民想要的是副总统哈里斯所提供的真正的自由、机会和安全，而不是埃隆·马斯克和唐纳德·特朗普的虚假、操纵性的谎言。”这一表态反映了竞选团队对这种虚假信息的强烈不满和谴责。
这一事件不仅仅是一个简单的恶搞或玩笑，它反映了 AI 技术在政治领域中可能被滥用的现实问题。随着高质量的 AI 工具变得越来越容易获取，目前美国联邦政府在规范其使用方面的行动仍然不足，这使得政治领域中 AI 的使用规则主要由各州和社交媒体平台来制定。这种情况导致了规则的不一致性和监管的困难，也为虚假信息的传播提供了可乘之机。
此外，这则视频还引发了关于如何处理那些模糊了 AI 适当使用界限的内容的问题，特别是当这些内容属于讽刺或恶搞的范畴时。视频的原始发布者，YouTube 博主 Mr Reagan，从一开始就明确表示该视频是一个恶搞作品，但马斯克在分享时并未明确指出这一点，导致了一些误解和争议。这一情况引发了人们对于社交媒体平台用户责任的思考，以及平台如何更好地管理和监督用户发布的内容。
一些专家对这则视频进行了分析。加利福尼亚大学伯克利分校的数字取证专家哈尼·法里德（Hany Farid）表示，该视频展示了生成式 AI 和深度伪造技术的强大力量。他认为，尽管大多数人不会相信这是哈里斯的真实声音，但当这些话以她的声音呈现时，视频的影响力会更大。他还指出，生成式 AI 公司应该更好地确保其服务不会被用于伤害他人或破坏民主。
然而，公共公民组织的联合主席罗布·魏斯曼（Rob Weissman）则持有不同的观点。他认为很多人会被这则视频所误导，尽管视频的质量并不是非常高，但它足以让大多数人相信其内容是真实的。魏斯曼的观点反映了人们对 AI 技术可能产生的误导作用的担忧，以及对公众对虚假信息的辨别能力的质疑。
事实上，这并不是 AI 技术首次在政治领域引发争议。在全球范围内，已经有多个案例表明，AI 生成的虚假信息、图像、视频或音频片段被用于影响选民的意见和行为。例如，在 2023 年的斯洛伐克，虚假音频片段模仿了一位候选人讨论操纵选举和提高啤酒价格的计划，在投票前几天传播开来。在 2022 年的美国路易斯安那州，一个政治行动委员会的讽刺广告将一位路易斯安那州市长候选人的脸叠加在一个扮演他的表现不佳的高中生的演员身上。
面对这些问题，美国国会尚未通过关于 AI 在政治中的应用的立法，联邦机构也只采取了有限的措施，使得美国大部分现有的 AI 监管工作落在了各州身上。根据美国州议会全国会议的数据，超过三分之一的州已经制定了自己的法律来规范 AI 在竞选和选举中的使用。
除了 X 平台，其他社交媒体公司也制定了关于在其平台上分享合成和操纵媒体的政策。例如，视频平台 YouTube 要求用户必须披露是否使用了生成式人工智能来创建视频，否则将面临账号被暂停的风险。
总的来说，AI 技术在政治中的应用是一个复杂而敏感的问题，需要政府、社交媒体平台、科技公司和公众共同努力来解决。政府需要加强立法和监管，社交媒体平台需要加强内容管理和审核，科技公司需要加强技术研发和道德规范，公众需要提高对虚假信息的辨别能力和防范意识。只有这样，我们才能充分发挥 AI 技术的优势，同时避免其可能带来的负面影响，确保政治领域的公正和透明。