AI模仿日益严峻的问题骗子们向来试图诱使我们交出辛苦赚来的钱和个人信息而生成式AI让他们的行骗变得更加容易。如今只需轻点按钮他们就能创作出与我们本人极为相似的内容无论是外观还是语气。这种现象被称为AI模仿且正成为一个日益严峻的问题。深度伪造的主要目标与选举准备名人、公众人物和政治家都是深度伪造的主要目标。随着11月可能具有重大影响且充满争议的中期选举临近我们现在就需要做好准备。AI生成媒体成常态得益于OpenAI、谷歌和Meta等科技公司的推动AI生成或合成媒体已成为新的常态。AI图像和视频生成器能够轻松地创建和编辑内容无需具备高级的Photoshop技能。AI使得制造更多虚假内容并迅速广泛传播变得轻而易举。Doppel公司的首席战略与体验官鲍比·福特Bobby Ford表示这个问题可以用三个“V”来概括数量volume、速度velocity和渠道vectors。“过去威胁行为者需要花费一定的时间和资源才能制作出深度伪造内容。但现在同样的时间内制作速度大幅提升因此数量和速度都增加了。”福特说道。他还表示像视频、音频和电子邮件等新的传播渠道也成为了AI工具且变得越来越多模态“所以我们看到这三个‘V’都在增加。”合成媒体的目的与影响不过合成媒体的目的并非总是完美地模仿政治家或公众人物。它常常被用来让我们相信虚假内容是真实的从而操纵我们的情绪使我们做出不理智的判断。这种影响我们信念的能力在政治领域尤为重要。AI渗透政治领域的案例在2024年总统初选期间新罕布什尔州的数千名选民意外收到了乔·拜登Joe Biden的自动语音电话敦促他们在选举前一晚不要投票。然而这并非真正的拜登而是AI深度伪造的内容选民们很难分辨真假。拜登竞选团队试图告知民众这是假消息但损害已经造成。非营利组织“捍卫数字竞选”Defending Digital Campaigns的总裁兼首席执行官迈克尔·凯泽Michael Kaiser表示“政治竞选活动可能没有网络安全工具但他们也在使用与恶意行为者相同的平台来接触同一群人。这使得在这种环境中开展活动变得极其困难。”其目的是在选举期间及之后削弱信任、制造混乱。7月参议员米奇·麦康奈尔Mitch McConnell的办公室发布了一张他近期住院期间的照片。社交媒体用户立即开始质疑照片的真实性。许多人猜测这张照片要么是旧照要么是用AI工具编辑过的。数字取证专家并未发现照片是旧照或经过数字修改的证据。但在如今这个时代我们的第一反应往往就是怀疑。恶意行为者的便捷与策略“如果这张照片是两年前发布的我可能需要花上七八个小时来修改它。”福特说“但现在有了生成式AI我只需要复制照片将其导入应用程序输入一些简单的指令30秒内就能得到10个不同版本的同一张照片然后我就可以把这10个不同版本发给我的朋友们。”正是这种速度和便捷性让恶意行为者能够在互联网和我们的手机上大量传播垃圾或诈骗内容。不过尽管技术是新的但他们使用的策略却并不新鲜。他们会故意让信息显得十分紧急让你来不及思考就做出回应。例如如果你在选举日前收到一条短信告知你的投票地点已更改你可能会不假思索地点击恶意链接而不会停下来质疑其真实性。“这种媒体的目的就是操纵你的情绪。”凯泽说。应对方法与思考所以最好的应对方法之一就是冷静下来退后一步在做出任何鲁莽的举动之前先思考一下并问问自己为什么会收到这条信息。但有时候说起来容易做起来难。“现在我不需要对目标人群进行大量研究就能对他们进行精准攻击。”福特说“我可以使用某个应用程序根据它从开源情报中收集到的关于你的信息撰写一封电子邮件或生成一段合成语音——这就是区别。”