Anthropic News

Anthropic is donating another $20 million to Public First Action

6.0内容质量
Anthropic is donating another $20 million to Public First Action

TL;DR · AI 摘要

Anthropic再次捐赠2000万美元支持Public First Action,推动AI安全政策。文章强调AI模型快速发展的风险及政策应对措施。

核心要点

  • Anthropic累计捐赠4000万美元支持AI安全政策倡议
  • Claude Mythos Preview发现操作系统级高危漏洞
  • Anthropic提出需政府验证AI公司安全声明的政策框架

结构提纲

按章节快速跳转。

  1. 宣布向Public First Action追加2000万美元捐赠,累计达4000万美元。

  2. Public First Action致力于推动跨党派AI安全政策制定。

  3. Claude Mythos Preview发现影响所有主要操作系统的高危漏洞。

  4. 提出需政府验证AI公司安全声明的Advanced AI Framework政策。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • Anthropic捐赠与AI安全政策
    • 捐赠信息
      • 4000万美元累计捐赠
      • 支持Public First Action
    • AI风险
      • 漏洞发现案例
      • 系统安全威胁
    • 政策框架
      • 安全声明验证
      • 独立评估要求

金句 / Highlights

值得收藏与分享的关键句。

#AI安全#政策#Anthropic#Public First Action
打开原文

向Public First Action再捐赠2000万美元 \ Anthropic

公告

Anthropic向Public First Action再捐赠2000万美元

2026年7月21日

我们追加向Public First Action捐赠2000万美元,使总支持金额达到4000万美元。Public First Action是一个非党派组织,致力于向公众普及AI知识,并与共和党、民主党及独立人士合作,推动建立合理的AI安全措施。我们的两次捐赠均专用于支持Public First Action的公众教育和政策使命,不得用于影响任何联邦、州或地方选举候选人的竞选活动。

2026年2月的首次捐赠旨在推动维护有效安全措施的政策,保持美国在AI领域的领导地位,并要求开发最强大AI模型的公司提高透明度。自那以来,这些政策的必要性愈发凸显。

为何此时?

AI模型的改进速度持续加快。今年早些时候,Claude Mythos Preview发现了数千个高严重性软件漏洞,包括所有主要操作系统和浏览器中的漏洞。我们通过Project Glasswing项目向有限的网络安全防御者开放该模型,使可信方能在任何潜在攻击者利用这些漏洞之前发现并修复问题。若落入不当之手,此类模型可能威胁国家关键系统,从医院到能源网络均可能受到冲击。

更强大的模型将带来诸多益处——例如加速药物研发、治疗此前无法治愈的疾病、十年内实现一个世纪的科学进步、延长人类寿命、推动让所有人共享繁荣的经济增长——但我们需要首先确保能够防范风险,才能实现这些益处。

政府需要时间建立能力以获取收益并控制风险,因此必须立即行动。

符合当前形势的政策

我们一直主张前沿AI公司应公开其模型能力及风险管控方式。我们支持多个州新通过的法律,要求AI开发者提高透明度。但鉴于最强大模型的能力提升速度,仅靠透明度仍不足以应对挑战。

我们需要政策制定者和候选人提出风险缓解措施。这正是Anthropic的《高级AI框架》所阐述的核心内容,这是迄今为止来自任何前沿实验室或政策制定者的最有力政策提案。政府应能验证公司的安全声明,通过民事处罚强制执行安全实践,并最终拥有减缓或阻止可能造成灾难性危害的AI模型部署的手段。前沿AI开发者应测试可能造成灾难性风险的模型,向公众公开测试结果,提交独立评估,并保持健全的安全计划。

随着人工智能发展步伐的加快,人工智能对国家安全的重要性日益凸显,正如我们在《2028:全球人工智能领导力的两种情景》中所阐述的那样。目前,美国及其民主盟友占据优势,但这种领先优势并不稳固。为确保美国在人工智能领域的持续领导地位,我们支持通过加强先进芯片和半导体制造设备的出口管制、遏制非法模型访问和蒸馏攻击等政策举措,防止民主国家最先进的技术被用于推进威权主义人工智能。

下一步行动

这些政策框架只是一个起点。我们向Public First Action的捐款是我们在努力提升这一紧迫政策辩论重要性的一种方式。

相关内容

经济未来研究基金的研究议程

我们正在分享Anthropic经济未来研究基金的研究议程。

阅读更多

通过Claude了解Anthropic经济指数

我们正在为Claude推出Anthropic经济指数连接器,使任何人都可以探索关于人工智能和工作的实际数据。

申请Anthropic的科学人工智能罕见病研究资助

Anthropic正在针对罕见遗传疾病发布专门的AI for Science研究资助申请。入选申请者将在六个月内获得最高5万美元的Claude积分,目标是建立一个研究社区,探索人工智能如何重塑我们对罕见病的理解。