加州打击人工智能深度伪造选举的法律面临法律挑战

　　加利福尼亚州萨克拉门托(美联社)——加州州长加文·纽森本周在旧金山举行的人工智能会议上签署了三项具有里程碑意义的提案，在2024年大选之前，加州现在有了一些美国最严厉的法律来打击选举深度造假。

　　该州可能是首批测试此类立法的州之一，该立法禁止在临近选举日的政治广告中使用人工智能制作和传播虚假图像和视频。

　　但现在，这三项法律中的两项，包括一项旨在遏制2024年选举中这种做法的法律，在周二在萨克拉门托提起的诉讼中受到质疑。

　　其中一项立即生效，允许任何个人就选举深度造假提起损害赔偿诉讼，另一项则要求X等大型在线平台从明年开始删除欺骗性材料。

　　这起诉讼是由一名制作模仿视频的人提起的，该视频模仿了副总统和民主党总统候选人卡玛拉·哈里斯的声音，他说，法律审查言论自由，允许任何人对他们不喜欢的内容采取法律行动。他的视频中至少有一个被社交媒体平台X的所有者埃隆·马斯克(Elon Musk)分享了，这促使纽森发誓要禁止X上的帖子出现此类内容。

　　州长办公室表示，该法律并不禁止讽刺和恶搞内容。相反，它要求在修改后的视频或图像中显示人工智能的使用情况。

　　纽森发言人伊兹·加登在一份声明中说:“目前还不清楚为什么这位保守派活动人士要起诉加州。”“这项针对选举错误信息的新披露法并不比包括阿拉巴马州在内的其他州已经通过的法律更繁重。”

　　原告的代理律师西奥多·弗兰克(Theodore Frank)表示，加州的法律影响太大，旨在“迫使社交媒体公司审查和骚扰人们”。

　　“我不熟悉阿拉巴马州的法律。另一方面，阿拉巴马州州长并没有像加州州长那样威胁我们的客户，”他告诉美联社。

　　这起诉讼似乎是美国针对此类立法的首批法律挑战之一。弗兰克告诉美联社，他计划就明尼苏达州的类似法律再提起诉讼。

　　在人工智能的出现加剧了全球选举虚假信息的威胁之后，十几个州的州议员也提出了类似的建议。

　　在纽森昨天签署的三项法律中，有一项为防止围绕2024年大选的深度造假而立即生效，其范围最为广泛。它不仅针对可能影响人们投票方式的材料，还针对任何可能歪曲选举公正性的视频和图像。该法律还包括描绘选举工作人员和投票机的材料，而不仅仅是政治候选人。

　　该法律规定，在选举日之前120天以及选举日之后60天内制作和发布与选举有关的虚假材料是违法的。它还允许法院停止分发材料，违规者可能面临民事处罚。法律不允许模仿和讽刺。

　　纽森和议员们表示，这样做的目的是在“令人担忧的政治气候”下，防止公众对美国选举的信任受到侵蚀。

　　但言论自由倡导者和马斯克等批评人士称，加州的新法律违宪，违反了美国宪法第一修正案。在这些法案被签署成为法律的几个小时后，马斯克周二晚上在X上发布了一条帖子，分享了一段人工智能生成的视频，其中包括哈里斯的修改音频。

　　“加州州长刚刚宣布这段恶搞视频违法，违反了美国宪法。如果它像病毒一样传播，那就太可惜了，”马斯克在评论这段人工智能生成的视频时写道，视频的标题表明这段视频是恶搞。

　　非营利消费者权益组织Public Citizen的伊拉娜·贝勒(Ilana Beller)说，目前尚不清楚这些法律在阻止选举造假方面的效果如何。该组织追踪与选举造假相关的州立法。贝勒说，这些法律都没有经过法庭的检验。

　　这项法律的效力可能会因法院对一项可以为政治广告制作虚假图像并以极快的速度传播的技术的迟缓而受到削弱。

　　贝勒说，法院可能需要几天的时间才能下达禁令救济，以阻止内容的传播，到那时，对候选人或选举的损害可能已经造成了。

　　她说:“在理想的情况下，我们能够在内容出现的第一时间将其删除。”“因为你越早删除内容，看到它的人就越少，通过转发和点赞传播它的人就越少，你就能越快地消除它。”

　　她说，尽管如此，将这样的法律写入法律可能会对潜在的违规行为起到威慑作用。

　　国会议员盖尔·佩尔兰拒绝对这起诉讼发表评论，但她表示，她起草的法律是一个避免错误信息的简单工具。

　　佩尔兰说:“我们要说的是，嘿，为了恶搞的目的，就把这个视频标记为数字修改吧。”“所以很明显，这是为了讽刺或模仿。”

　　纽森周二还签署了另一项法律，要求竞选团队从2024年大选后的明年开始披露人工智能生成的材料。