“你要把选票留到11月的选举中，周二（1月23日）的投票只会让共和党人再次选举特朗普。”在新罕布什尔州举行的美国共和党第二场总统初选前夕，当地居民接到了自动电话留言。电话那头，一个听起来像拜登的声音告诉该州居民不要在23日的初选中投票。

报道指出，这通电话以拜登最爱用的一个词“一派胡言”作为开场白，随后被认为是人工智能（AI）生成的。新罕布什尔州总检察长办公室称，这一电话有明显的“非法企图”，旨在以拜登的名义压制选民。该办公室在一份声明中表示，选民应该忽视这通电话内容。不过，其暂未查明电话的来源。

拜登

据报道，正在和拜登竞争党内提名的明尼苏达州众议员迪恩·菲利普斯的竞选团队表示，他们并不知道这些电话，“非常令人担忧”；而特朗普的竞选团队发言人也否认与这些电话有联系，“这跟我们没有关系。”

“政治深度造假时刻”已到？

专业人士：几乎可以肯定是AI生成

监督组织“公共公民”（Public Citizen）主席罗伯特·韦斯曼称，“政治深度造假时刻”已经到来。报道称，背后操纵者通过操控来电显示信息掩盖真实身份。

据悉，背后操纵者选择了新罕布什尔州民主党前主席凯瑟琳·苏利文的号码作为来电显示号码。“我在周日（21日）晚接到了电话，并于次日与新罕布什尔州总检察长办公室进行了交谈，对此提出投诉。”凯瑟琳说，很明显，有人想要压制23日的初选投票，“这明显是想要伤害拜登。”

除了凯瑟琳，还有一些选民也向媒体反映接到了同样的电话。根据美国阻止骚扰电话的应用程序Nomorobo首席执行官亚伦·福斯的说法，数据显示总共有5000到25000通虚假电话拨出，其中76%针对新罕布什尔州，12%针对波士顿。

媒体对音频进行初步分析后表示，声音听起来非常像拜登。专家进一步分析后认为，这几乎肯定是运用了“深度造假”，即通过AI创建的虚假音频或视频对真人进行模仿。

专注于对“深度造假”音视频进行检测的公司“捍卫真相”（Reality Defender）首席执行官本·科尔曼认为，所有迹象都表明这（通电话）是“深度造假”的，“虽然现在没有确凿证据，但这通电话极有可能是被操纵的。”专注于研究虚假信息和新兴技术的林赛·戈尔曼表示，虽然技术在不断进步，但“深度造假”的音视频仍会出现一些纰漏，“尤其是节奏，（通话音频）后半部分节奏听起来不自然，很机械化。”

林赛补充称，在技术的发展下，现在识别“深度造假”就像一场“猫捉老鼠”的游戏，“以视频为例，此前我们可以通过视频中人的眼球运动来判断真假，但随着技术的进步，假视频中的人眼运动也变得自然了很多。”

民调显示：

近60%的人担心AI将影响最终选举结果

早在2023年便有媒体指出，人们越来越担心AI对2024年美国大选的影响。美国芝加哥大学哈里斯公共政策学院临时院长伊桑·布埃诺·德·梅斯基塔当时称，2024将是一场AI选举，“就像2020年是社交媒体选举一样，我们将深刻地认识到这（AI）会如何影响我们的社会。”

资料图片

“我认为情况可能变得很糟。”加州州立大学弗雷斯诺分校政治学系主任丽萨·布莱恩特认为，相较于社交媒体，AI可以让虚假信息更精准地进行用户定位，“没有人能幸免。”据一份11月发布的民调结果显示，在10月参与调查的美国成年人中，有58%的人认为“AI将对2024年美国大选造成影响”，这一数字较去年8月增长了5个百分点。

红星新闻记者 黎谨睿 综合环球网

编辑 张莉 责编 任志江

（下载红星新闻，报料有奖！）