【大澳门威尼斯人赌场官网2024年10月05日讯】周三（10月2日），美国地区联邦法官批准了一项初步禁令，阻止加州州长纽森两周前刚签署生效的AB2839深度伪造法（deepfakes law），该法允许任何人就用AI技术生成的欺骗性图像、视音频等选举材料提起民事诉讼并要求赔偿。

AB2839

AB2839“选举：广告中的欺骗性媒体”（Elections： deceptive media in advertisements）由第28区民主党籍州众议员盖尔·佩勒林（Gail Pellerin）提案，他称：“那些试图影响选举的人——阴谋论者、外国政府、网络‘喷子’，甚至竞选活动本身（在美国和世界各地制作和分发深度伪造图像、音频和视频内容），这种AI生成的虚假信息会影响选民的行为，并破坏人们对选举的信心。”

该法规定：“在选举前120天至选举后60天，候选人或委员会或选举官员可寻求禁令或其它公平补救，禁止发放包含欺骗性AI生成或更改内容的广告等选举材料；并授权他们可提起特殊损害赔偿诉讼等补救措施。”

AB2839在参众两院分别以32:6和63:8通过，在2027年1月1日前有效，之后将延长或颁布新法。

裁决

资深地区法官约翰·A·门德斯（John A. Mendez）表示，对深度伪造的恐惧是合理的，但“这种恐惧并不能让立法者肆无忌惮地推翻（宪法）《第一修正案》保护的批评、模仿和讽刺的长期传统”。

尽管AI和深度伪造的内容构成重大风险，但他裁定，AB2839法案可能违反了《第一修正案》。

门德斯写道：“AB2839的大部分内容都像是一把锤子而不是手术刀，是阻碍幽默表达的钝器，它违宪地扼杀了对美国民主辩论至关重要的自由和不受约束的思想交流。”

汉密尔顿林肯法律研究所（Hamilton Lincoln Law Institute，HLII）高级律师西奥多·弗兰克（Theodore Frank）认为这一裁决“直截了当”，“很高兴地方法院同意我们的分析，即新技术不会改变第一修正案保护的原则”。

第一修正案联盟（First Amendment Coalition）法律总监大卫·洛伊（David Loy）在9月份的一次采访中表示，“政府不能自由地在《第一修正案》之外创造新的言论类别”，需要一整套法律和标准来证明是否欺诈或诽谤。

该联盟反认为AB2839存在着违宪问题。它允许起诉任何传播相关内容的人，无论原告是否受到人身伤害，这将“不正当地使法院卷入政治纠纷”。

起诉州法

在纽森签署法案的两天后（9月19日），HLII代表原告、YouTube制作人克里斯托弗·科尔斯（Christopher Kohls）对这项新法提起诉讼。此前科尔斯制作的一段恶搞视频在网上流传，视频中有民主党总统候选人、现任副总统贺锦丽（Kamala Harris）被用AI技术修改后的声音。

据HLII网站，纽森在该视频发表后发帖回应：“像这样在‘广告’中操纵声音应该是非法的，我将在几周内签署法案，以确保它是非法的。”

纽森签署法案数小时后，社交媒体平台X的老板埃隆·马斯克（Elon Musk）即在X上分享了这段AI视频，并写道：“加州州长刚刚将这段恶搞视频定为非法，这违反美国宪法。”言论自由倡导者们也认为，加州的这项新法律侵犯了《第一修正案》权利。

佩勒林拒绝对诉讼发表意见。她表示：“我们的意思是只将该视频标记为出于模仿目的的数码修改”，“它清楚地表明是用于讽刺或模仿。”

三项深度伪造法

除AB2839外，纽森上月17日还签署了另外两项与选举广告和传播相关的法案——AB2355和AB2655，将在明年1月1日生效，以“解决竞选活动中欺骗性地使用AI生成和更改内容的问题，并从大型在线平台上删除这些内容、提高问责制并告知选民”。

AB2655，由第23区民主党州众议员马克·伯曼（Marc Berman）提出，要求大型在线平台在特定时期内删除或标记与选举相关的欺骗性、数码修改／创建的内容，并要求它们提供报告此类内容的机制。它还授权候选人、民选官员、选举官员、司法部长、地方检察官或市检察官向平台发出禁令。

AB2355由第52区民主党州众议员温迪·卡里略（Wendy Carrillo）提出，要求披露使用AI生成或大幅修改内容的选举广告材料是否被修改；授权公平政治实践委员会寻求禁令或其它补救措施。

加州新出台的这三项法律，堪称美国同类法律中最为严厉的。纽森在当日新闻稿中说，“维护选举的完整性对民主至关重要，我们必须确保AI不会通过虚假信息破坏公众的信任——尤其是在当今紧张的政治气氛中”，这些法案将确保不会未经本人同意就复制他们的声音或肖像，并将打击在政治广告等内容中运用深度伪造。

纽森发言人伊兹·加登（Izzy Gardon）在声明中称，这些法律是保护民主并维护言论自由的，“我们相信法院将支持加州监管此类危险且具有误导性的深伪作品的能力”，“讽刺在加州依然盛行——即使对于那些错过笑点的人也是如此”。◇

责任编辑：嘉莲