美方及盟友捣毁由俄罗斯支持的AI机器人网络

星阁 • 2024年07月10日 15:02 • 财经

MASTER via Getty Images

美国官员及其盟友已识别并关闭了一个由近1000个账户组成的、由人工智能驱动的俄罗斯机器人网络，该网络在X平台（原Twitter）上散布虚假信息和亲俄情绪。司法部透露，该计划由一个数字媒体部门创建，该部门隶属于俄罗斯政府控制的媒体机构RT。据悉，该计划由RT副主编于2022年领导开发，并得到俄罗斯联邦安全局（克格勃的主要继任者）的一位官员的批准和资助。

在FBI发布的网络安全咨询中，荷兰的情报官员和加拿大的网络安全机构特别提到了一个名为“Meliorator”的工具，该工具可以“批量创建看起来真实的社交媒体角色”，生成文本消息和图像，并从其他机器人角色中镜像虚假信息。当局已查封了网络用来创建电子邮件地址的两个域，这些电子邮件地址是注册X账户（原推特）所必需的。

不过，司法部仍在寻找俄罗斯行动者用来传播虚假信息的全部968个账户。X已与当局分享了迄今为止识别出的所有账户信息，并已将其暂停。正如华盛顿邮报指出的那样，这些机器人绕过了X的安全措施，因为它们可以复制粘贴电子邮件账户中的OTP来登录。司法部表示，该行动使用基于美国域名的行为违反了《国际紧急经济权力法》，而为这些行为付款则违反了美国的联邦洗钱法。

该工具创建的许多个人资料通过使用听起来像美国的名称并将其X位置设置为美国的不同地点来冒充美国人。司法部举例展示的个人资料使用带有灰色背景的头像作为个人资料照片，这是一个很好的迹象，表明它们是使用AI创建的。一个名为里卡多·阿博特（Ricardo Abbott）的账户声称来自明尼阿波利斯，发布了一段俄罗斯总统弗拉基米尔·普京为俄罗斯在乌克兰的行动辩护的视频。另一个名为苏·威廉姆森（Sue Williamson）的账户发布了普京的一段视频，称乌克兰战争不是领土冲突，而是“新世界秩序将基于的原则”问题。这些帖子随后被网络中的其他机器人点赞和转发。

值得注意的是，虽然这个特定的机器人网络局限于X，但根据当局对Meliorator软件的分析，其背后的团队计划将其扩展到其他平台。外国势力多年来一直利用社交媒体传播政治虚假信息，但现在他们已将其武器库中增加了AI。早在5月，OpenAI就报告称，它已瓦解了五项秘密影响行动，这些行动源自俄罗斯、中国、以色列和伊朗，它们正在利用其模型来影响政治结果。

FBI局长克里斯托弗·雷在一份声明中说：“俄罗斯打算利用这个机器人网络来传播由人工智能生成的外国虚假信息，借助人工智能扩大其工作范围，以破坏我们在乌克兰的合作伙伴，并影响有利于俄罗斯政府的地缘政治叙事。” “FBI致力于与我们的合作伙伴合作，部署联合分步行动，从战略上扰乱我们最危险的对手及其利用尖端技术的邪恶目的。”

至于RT，这家媒体机构告诉彭博社：“务农是数百万俄罗斯人喜爱的消遣。”

原创文章，作者：星阁，如若转载，请注明出处：http://www.xgrl.net/n/202407101502102544.shtml