Anthropic News

Preparing for the 2026 US midterms

6.9内容质量
Preparing for the 2026 US midterms

TL;DR · AI 摘要

Preparing for the 2026 US midterms \ Anthropic Policy Preparing for the 2026 US midterms Oct 14, 2026 Earlier this year,...

核心要点

  • 主题聚焦:Preparing for the 2026 US midterms
  • 来源:Anthropic News,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#安全
打开原文

为2026年美国中期选举做准备 \ Anthropic

政策

为2026年美国中期选举做准备

2026年10月14日

今年早些时候,我们分享了关于选举安全措施的更新,其中描述了我们如何衡量和防止政治偏见、检测滥用行为,并引导用户获取准确的投票信息。

以下内容概述了我们如何在此基础上继续推进工作,并在本年度美国中期选举前进一步加强选举安全措施。

用户如何使用Claude进行选举和政治相关活动

我们的目标是让Claude成为政治对话的有用工具,同时防止与选举相关的滥用行为。这始于了解用户在这些场景下实际如何使用Claude。为此,我们利用Anthropic Insights开发了一项新的分析,涵盖了最近一周内250,000次对话的分析结果。1

目前,在美国Claude.ai消费者应用中,涉及广泛政治、公共政策或社会议题的对话约占所有对话的5.75%。这包括用户通过Claude追踪新闻、进行公共政策相关的学术或职业研究、了解候选人信息以及使用政府服务。其中约0.51%的对话专门涉及选举或投票相关内容。随着选举日的临近,我们预计与政治和选举相关的查询比例将会上升。

该样本表明,用户很少询问Claude应该投票给谁或支持什么。这类请求仅出现在约0.01%的美国Claude对话中。更常见的是,我们观察到用户向Claude提出有助于他们自行得出结论的问题,例如了解候选人在特定议题上的立场。违反我们选举完整性政策的请求更为罕见,仅出现在约0.002%的对话中。2

美国Claude.ai对话中涉及政治、选举或询问投票对象的占比。每个点代表在2026年9月21日至27日随机抽取的约250,000次美国Claude.ai消费者对话样本中每10,000次对话中的一个,Claude使用隐私保护方法进行分类。由于请求推荐投票对象的请求非常罕见,我们展示了该群体95%置信区间的上限。这些示例仅为说明性用途。我们看到的大多数请求都属于信息查询性质。人们使用Claude来理解地缘政治事件、研究候选人、起草文件、协助课程作业以及权衡政策的利弊。

政治对话中用户向Claude提出的问题类型。对话通过Anthropic Insights以隐私保护的自下而上方式聚类。

大选日前,我们新增了两种方式,让用户能够在与Claude的对话中直接获取可靠信息。如我们在四月所分享的,当用户向Claude.ai询问选民登记、投票站或选举日期时,我们将继续显示链接至TurboVote的横幅,这是来自Democracy Works的非党派资源。这些资源在行业内是标准配置。本月晚些时候,Claude将开始从Democracy Works获取官方投票信息,并将其整合到Claude.ai的回复中,适用于美国用户。现在,当用户询问投票地点或需要携带何种身份证件前往投票站时,可以直接在对话中获得针对其所在州的具体答案,无需离开对话界面。这些回复基于Democracy Works从各州和地方选举机构公开收集的信息。

由Democracy Works提供的官方投票信息。

此外,Claude将在选举当晚及随后几天展示最新选举结果,当用户询问当前投票统计或选举结果时,可以直接在对话中看到最新的官方数据。

测量与预防政治偏见

当用户向Claude询问政治相关问题时,应获得准确且不偏不倚的回答,不应偏向任何特定政治观点。因此,我们在每次模型发布前都会对模型进行广泛测试,以检测政治偏见。Claude Opus 5.5、Sonnet 5.5和Haiku 5.5是我们迄今为止最不偏不倚的模型,在我们的政治公正性评估中得分达到99%。我们的最新模型在政治讨论中表现出更高的参与度,拒绝的请求更少,因此用户可以更顺利地获取所需信息。我们仍在不断完善这些评估,并探索新的方法,以更全面地测试模型处理政治话题的表现。

作为这一努力的一部分,我们邀请了三个独立团体审查Claude如何处理言论自由问题,每个团体从不同角度采用不同方法进行评估。位于范德堡大学的独立智库《言论自由的未来》对Claude在数百个争议性话题请求上的表现进行了测试,而美国创新基金会则比较了Claude对左右翼匹配提示的回应,这些提示涵盖从主流政策辩论到更极端场景的内容。在这两项评估中,大多数回复被评为“强”,能够实质性地回应请求。集体智能项目(CIP)则通过三阶段流程,调查了美国、英国和印度的2000多名参与者,以制定评估标准。参与者提出了处理敏感话题(从健康到政治)的原则,确定了需要测试的主题,并帮助制定了评估模型回复的标准。CIP汇总了这些输入,并测试了不同人口和文化群体之间的共识,以建立共享原则。

这些评估还指出了Claude目前仍存在的不足之处。《言论自由的未来》和《集体智慧项目》均发现,Claude很少拒绝请求,但有时会添加未经请求的附注和反论,例如在倡导邮件中插入对立观点。美国创新基金会发现,Claude Sonnet 4.5并未始终如一地平衡使用保留意见,对于右翼立场的论点更倾向于弱化处理。我们正通过多种方式解决这些问题。我们改进了Claude对直接的问答请求和简短回答请求的回应方式,因为发现其回答在某些情况下不够平衡。我们还利用这些发现来优化Claude添加附注或反论的时机和方式,使其对政治光谱各端的请求都能保持更一致的处理方式。同时,我们正在继续改进对非平衡性保留意见的测试方法,在现有使用左右翼匹配提示进行评估的基础上进一步完善。更广泛地说,我们正在努力扩展政治偏见评估的范围,使其更好地反映真实对话,并涵盖候选人、投票问题以及政策议题。

我们如何定义滥用行为

我们的使用政策禁止使用Claude欺骗选民或破坏选举,包括传播有关候选人或投票方式的虚假信息、冒充选举官员或试图压制投票率等行为。每年,我们都会根据模型能力的演变和客户反馈更新该政策。本周发布的今年更新明确了选举规则的适用范围和不适用范围,并新增了示例帮助人们理解界限所在。

我们深知许多政治竞选活动会使用Claude进行合法的日常任务,因此最近发布了一份指南,帮助他们理解这些政策的适用范围。该指南涵盖了竞选活动可以利用Claude完成的多种方式,例如起草新闻声明和筹款邮件、准备辩论内容、分析投票率数据以及制作选民外展材料。同时明确禁止的行为包括:使用Claude创建冒充真实人物的虚假社交媒体资料、批量生成评论以提高竞选活动参与度,或为新闻网站和页面撰写内容并虚假声称其独立性。

测试与强化防御机制

我们部署了经过训练的自动化分类器,用于检测与选举相关的滥用行为。为了验证这些防护措施在实际中的效果,我们与战略对话研究所(ISD)和麦凯恩研究所(McCain Institute)合作,这两个独立研究机构在美国、以色列和巴西对我们的防护系统进行了压力测试。分析师测试了Claude是否会协助进行欺骗性竞选、传播虚假信息和其他形式的选举滥用。他们首先从直接请求开始,然后将完整的竞选活动拆解为看似无害的独立任务,例如受众研究、建立新闻网站、起草内容以及规划内容分发。他们发现,Claude能够可靠地拒绝单一有害请求,但在恶意竞选活动分散到多个看似无害的独立请求时可能会失效。

基于这些发现和我们自己的研究,我们新增了分类器,以更有效地识别新型和多步骤的滥用行为,包括试图创建虚假社交媒体账号和新闻网站以进行政治讨论,或实施以经济利益为导向的选举计划。我们还提升了检测外国国家行为者参与的与选举相关的滥用行为的能力,并加强了对选举基础设施和竞选活动的网络保护。最后,我们针对在美国、以色列和巴西发现的本地化风险制定了专门的防护措施,这三个国家今年都将举行重大全国性选举。

我们的威胁情报和执法团队会审查被标记的活动,并在确认违规时采取行动,包括封禁账号。我们还会定期分享在评估和内部使用Claude过程中观察到的意外模型行为或操作示例。

我们的发现

最近的威胁情报报告反映了与选举相关的滥用趋势的显著变化。政治团体、国家支持者和商业行为者现在几乎在影响力行动的每个环节都融入了人工智能技术,从策划和内容创作到构建用于传播信息的平台。由于我们能在Claude上观察到这些行动的早期阶段,因此经常有机会在这些行为影响公众之前加以阻止。

我们的团队持续调查并阻止与选举相关的协调性滥用行为,包括美国中期选举。在其中一个案例中,一家虚假新闻网站的境外运营者使用Claude生成了支持俄罗斯、伊朗和朝鲜叙事的美国中期选举报道。我们还观察到威胁行为者试图利用选举获取经济利益,使用Claude生成虚假新闻和其他旨在吸引美国受众并产生广告收入的内容。我们已封禁这些案例中的相关账号,并提升了检测此类滥用行为的能力。

未来展望

今年,越来越多的人转向Claude获取有关选举的信息。我们有责任确保他们获得的答案准确且客观,同时防止Claude被用于破坏民主进程。我们将继续投入资源提升Claude的公正性,预防和应对滥用行为,并在行动中保持透明。这项工作对于即将到来的美国中期选举至关重要,也将扩展到全球范围内的其他选举。在未来几个月,我们还希望更全面地展示人们在整个选举周期中如何使用Claude,目标是加强与选举相关的评估和防护措施。

#### 脚注

  • 我们随机抽取了2026年9月21日至27日期间25万名美国Claude.ai消费者的对话记录,并以隐私保护的方式进行了分析。
  • 该数据来自对25万次Claude.ai对话的独立分析,这些对话根据我们的选举完整性政策进行了审查。

相关内容

Anthropic在新加坡开设办公室并与中国政府签署备忘录

Anthropic在新加坡开设了办公室,并与新加坡政府签署了备忘录,以推动安全、负责任的人工智能应用。

阅读更多

2026年使用政策更新

我们发布了使用政策的新版本。在本文中,我们总结了所做的修改。

我们对美国科学发现的承诺

Anthropic承诺在未来三年内投入1.5亿美元用于Genesis Mission,这是联邦政府发起的通过人工智能加速科学和技术发现的倡议。