人工智能深伪技术的监管

政府一直在加大力度打击深伪技术。5 月 22 日，联邦通信委员会主席杰西卡·罗森沃塞尔提议一项新规则，要求政治电视、视频和广播广告披露是否使用了人工智能 (AI) 生成的内容。

联邦通信委员会对人工智能在本次选举周期广告中的使用表示担忧，罗森沃塞尔指出了深伪和其他操纵内容的潜在问题。

社交媒体一直不在联邦通信委员会监管范围之外，但联邦选举委员会也在考虑广泛的人工智能披露规则，该规则将扩展到所有平台。在一封给罗森沃塞尔的信中，他们鼓励联邦通信委员会推迟其决定，直到选举结束后，因为其变更对所有数字政治广告都不具有强制性。他们补充说，这可能会让选民感到困惑，认为没有披露的人工智能广告没有人工智能，即使实际有。

虽然联邦通信委员会的提议可能无法直接涵盖社交媒体，但随着美国政府致力于成为人工智能内容的强有力的监管者，它为其他可以监管数字世界广告的机构打开了大门。而且，这些规则可能会扩展到更多类型的广告中。

韦德布什证券董事总经理兼高级股票分析师丹·艾维斯说：“这将是一项开创性的裁决，可能会改变未来几年围绕政治竞选的传统媒体披露和广告。”“令人担忧的是，您不能让事情脱轨，而且这项裁决会带来许多意想不到的后果。”

一些社交媒体平台已经在法规出台前自行采用某种形式的人工智能披露。例如，Meta 要求所有广告进行人工智能披露，并且禁止在 11 月选举前一周发布所有新的政治广告。谷歌要求所有包含修改内容的政治广告，即“不真实地描绘真实或逼真的人物或事件”的政治广告都必须进行披露，但并不要求所有政治广告披露人工智能。

社交媒体公司有充分的理由在该问题上被视为主动的，因为品牌担心在国家关键时刻会与错误信息的传播保持一致。谷歌和 Facebook 预计将获得 2024 年美国数字广告支出 3069.4 亿美元预测的 47%。艾维斯说：“对于在未来充满争议的选举周期中关注广告的主要品牌来说，这是一个非常敏感的问题，而人工智能错误信息疯狂传播。对于在线广告来说，这是一个非常复杂的时间。”

尽管进行了自我监管，但由于每天发布的大量内容，经过人工智能处理的内容确实会在没有标签的情况下进入平台。无论其是人工智能生成的垃圾邮件还是大量人工智能图像，都很难找到所有内容。

Secureworks Counter Threat Unit 的高级威胁研究员托尼·亚当斯说：“行业标准的缺乏和技术的快速发展使得这项工作充满挑战”。“幸运的是，这些平台已经通过技术控制（讽刺的是，由人工智能支持），报告了在其实际网站上监管最有害内容的成功案例。”

创建操纵内容比以往任何时候都容易。5 月份，穆迪警告称，深伪技术已经被政府和非政府实体“武器化”作为宣传和制造社会不稳定和恐怖主义的工具。

穆迪评级助理副总裁阿比·斯里瓦斯塔瓦写道：“直到最近，创建令人信服的深伪技术仍需要专门算法、计算资源和时间的重大技术知识。”“随着易于获得、负担得起的通用人工智能工具的出现，在几分钟内就可以生成一个复杂的深伪技术。这种易用性，加上社交媒体现有针对操纵内容传播的保护措施的局限性，为深伪技术的广泛滥用创造了一个沃土。”

在这个选举周期中，在新罕布什尔州的总统初选竞选中，通过自动电话拨号使用了深伪音频。

根据穆迪的说法，一个潜在的优势在于美国选举系统的分散性，以及现有的网络安全政策和对迫在眉睫的网络威胁的一般了解。穆迪表示，这将提供一些保护。各州和地方政府正在采取措施进一步阻止深伪和未标记的人工智能内容，但言论自由法和对阻碍技术进步的担忧已使一些州立法机关的进程放缓。

根据穆迪的说法，截至 2 月份，州立法机关每周都会出台 50 项与人工智能相关的立法，其中包括关注深伪技术。13 个州有关于选举干预和深伪技术的法律，其中 8 个是自 1 月份以来颁布的。

穆迪指出，美国容易受到网络风险的影响，在联合国电子政务发展指数中排名第 10 位（共 192 个国家）。

即使没有具体的事例，但民众认为深伪技术有能力影响政治结果的观念足以“损害公众对选举进程和政府机构信誉的信心，这是一个信用风险”，穆迪如是说。公众越担心无法将事实与虚构区分开来，公众与政府脱离接触和不信任的风险就越大。“这种趋势将对信贷产生负面影响，可能导致政治和社会风险加剧，并损害政府机构的有效性”，穆迪写道。

Secureworks 的亚当斯说：“执法部门和联邦通信委员会的反应可能会阻止其他国内行为者使用人工智能欺骗选民。”“但毫无疑问，正如他们多年来所做的那样，外国行为者将继续利用生成式人工智能工具和系统干预美国政治。对选民来说，信息是保持冷静，保持警惕并投票。”

原创文章，作者：星阁，如若转载，请注明出处：http://www.xgrl.net/n/202407111153392593.shtml