关键点
- AI 作为虚假信息的工具：生成式 AI 放大了传播错误信息、虚假信息和有害信息的能力。
- 防御 AI 威胁：选举官员需要增强快速有效应对 AI 驱动攻击的能力。
- 协作努力：州和地方选举官员，包括州务卿，正在共同努力应对选举完整性的威胁。
- 选民教育：教育公众对于识别和打击 AI 生成的深度伪造和错误信息至关重要。
- 立法措施：禁止恶意使用深度伪造是保护选举的一种法律策略。
理解 AI 在选举中的威胁
选举虚假信息的演变
选举一直是操纵的目标，但 AI 的出现为这一挑战引入了新的维度。过去，恶意意图可能通过简单的传单传播误导信息，而今天，生成式 AI 使得创建和分发高度逼真但完全虚假的内容成为可能。这些内容形式多样，从候选人发表虚假声明的深度伪造视频，到传播阴谋论的 AI 生成新闻文章。AI 传播这些材料的速度和规模对知情投票构成了重大威胁。
生成式 AI 的崛起为不良行为者提供了以下工具：
-
- 创建逼真有吸引力的虚假内容。
- 针对特定选民群体定制虚假信息。
- 自动化虚假信息在社交媒体上的传播。
- 压倒事实核查工作。
生成式 AI：旧把戏的新工具
亚利桑那州州务卿 Adrian Fontes 将生成式 AI 描述为“不良分子武器库中的另一件工具”。他强调，真正的武器不是 AI 本身，而是传递给选民的错误信息、虚假信息和有害信息。虽然 AI 提供了一种增强这些谎言的有力手段，但他指出，欺骗选民的谎言一直存在，只是传递系统发生了变化。
传统方法是，不良行为者简单地发布带有恶意意图的传单，这可能既耗时又昂贵。而生成式 AI 方法使不良行为者能够实时传播信息，使得 AI 对普通人来说更容易获得。生成式 AI 打开了一个潘多拉魔盒的新工具，以扩大、深化和加速对民主的攻击。这突显了需要增强应对能力以对抗这些不断演变的威胁。
对策和保护策略
密歇根州对 AI 生成深度伪造的立法禁令
密歇根州采取了积极措施，立法将 AI 生成的深度伪造或其他具有实质欺骗性的媒体的传播定为刑事犯罪。这部由密歇根州州务卿 Jocelyn Benson 颁布的法律，旨在在有意损害候选人声誉或选举前景的情况下，为使用 AI 散布虚假信息创造必要的问责。
它规定：
- 在选举舞弊中使用欺骗性创建的 AI 为犯罪行为。
- 通过法律途径保护竞选的完整性。
- 目标：阻止数字伪造内容的传播。
选举安全的多方面方法
选举安全需要多方面的措施。选举官员采取的措施包括：
- 增强的应对能力：开发更快更有效的方法来应对 AI 驱动的攻击。
- 公共教育：赋予公民辨别错误信息和识别深度伪造的能力。
- 协作：与执法部门和媒体合作是分享信息和协调响应的关键。
通过结合积极的立法、公众意识宣传活动和关键利益相关者之间的强有力协调，选举官员可以增强其抵御 AI 驱动攻击的能力。
生成式 AI 的利与弊
优点
- 有潜力改变人类与计算机生成数据的交互方式。
- 被许多合法行业用于简化繁琐的工作流程。
- 通过 AI 数据分析提供新的洞察力，这些分析可能需要人类几天或几周的时间来完成。
缺点
- 可用于欺骗性活动中以创纪录的速度传播虚假信息。
- AI 生成的音频和视频越来越难以被轻易识别。
- 可用于大规模身份盗窃和欺诈。
- 可用于影响和操纵人们。
常见问题
生成式 AI 如何被纳入选举准备工作中？
选举官员将 AI 在虚假信息活动中的能力纳入其战略规划和预防措施。他们认识到必须增强传递系统以对抗不良信息。
各州采取了哪些行动来确保选举完整性以对抗人工智能？
许多州正在寻求立法，禁止不良行为者使用人工智能误导选民，并对故意传播 AI 生成的深度伪造和舞弊行为追究责任。
普通选民如何在对抗 AI 虚假信息的斗争中提供帮助？
州务卿 Jocelyn Benson 敦促选民学习如何识别深度伪造以防止被误导。了解从哪里获取可靠信息也至关重要。
相关问题
在选举年，AI 带来的真正威胁来自哪里？
虽然许多初始信息被视为外国影响力的产物，但这些信息经常被地方政党采用。这可能使人难以确定是来自海外的人还是本地的某人在针对你。
相关文章
