Anthropic is donating another $20 million to Public First Action
TL;DR · AI 摘要
Anthropic再次捐赠2000万美元支持Public First Action,推动AI安全政策。文章强调AI模型快速发展的风险及政策应对措施。
核心要点
- Anthropic累计捐赠4000万美元支持AI安全政策倡议
- Claude Mythos Preview发现操作系统级高危漏洞
- Anthropic提出需政府验证AI公司安全声明的政策框架
结构提纲
按章节快速跳转。
- §捐赠公告
宣布向Public First Action追加2000万美元捐赠,累计达4000万美元。
- ·组织使命
Public First Action致力于推动跨党派AI安全政策制定。
Claude Mythos Preview发现影响所有主要操作系统的高危漏洞。
- ·政策框架
提出需政府验证AI公司安全声明的Advanced AI Framework政策。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Anthropic捐赠与AI安全政策
- 捐赠信息
- 4000万美元累计捐赠
- 支持Public First Action
- AI风险
- 漏洞发现案例
- 系统安全威胁
- 政策框架
- 安全声明验证
- 独立评估要求
金句 / Highlights
值得收藏与分享的关键句。
Claude Mythos Preview发现影响所有主要操作系统和浏览器的高危漏洞
政府需要现在开始建立能力以应对AI快速发展的风险
Advanced AI Framework是目前最全面的前沿AI政策提案
向Public First Action再捐赠2000万美元 \ Anthropic
公告
Anthropic向Public First Action再捐赠2000万美元
2026年7月21日
我们追加向Public First Action捐赠2000万美元,使总支持金额达到4000万美元。Public First Action是一个非党派组织,致力于向公众普及AI知识,并与共和党、民主党及独立人士合作,推动建立合理的AI安全措施。我们的两次捐赠均专用于支持Public First Action的公众教育和政策使命,不得用于影响任何联邦、州或地方选举候选人的竞选活动。
2026年2月的首次捐赠旨在推动维护有效安全措施的政策,保持美国在AI领域的领导地位,并要求开发最强大AI模型的公司提高透明度。自那以来,这些政策的必要性愈发凸显。
为何此时?
AI模型的改进速度持续加快。今年早些时候,Claude Mythos Preview发现了数千个高严重性软件漏洞,包括所有主要操作系统和浏览器中的漏洞。我们通过Project Glasswing项目向有限的网络安全防御者开放该模型,使可信方能在任何潜在攻击者利用这些漏洞之前发现并修复问题。若落入不当之手,此类模型可能威胁国家关键系统,从医院到能源网络均可能受到冲击。
更强大的模型将带来诸多益处——例如加速药物研发、治疗此前无法治愈的疾病、十年内实现一个世纪的科学进步、延长人类寿命、推动让所有人共享繁荣的经济增长——但我们需要首先确保能够防范风险,才能实现这些益处。
政府需要时间建立能力以获取收益并控制风险,因此必须立即行动。
符合当前形势的政策
我们一直主张前沿AI公司应公开其模型能力及风险管控方式。我们支持多个州新通过的法律,要求AI开发者提高透明度。但鉴于最强大模型的能力提升速度,仅靠透明度仍不足以应对挑战。
我们需要政策制定者和候选人提出风险缓解措施。这正是Anthropic的《高级AI框架》所阐述的核心内容,这是迄今为止来自任何前沿实验室或政策制定者的最有力政策提案。政府应能验证公司的安全声明,通过民事处罚强制执行安全实践,并最终拥有减缓或阻止可能造成灾难性危害的AI模型部署的手段。前沿AI开发者应测试可能造成灾难性风险的模型,向公众公开测试结果,提交独立评估,并保持健全的安全计划。
随着人工智能发展步伐的加快,人工智能对国家安全的重要性日益凸显,正如我们在《2028:全球人工智能领导力的两种情景》中所阐述的那样。目前,美国及其民主盟友占据优势,但这种领先优势并不稳固。为确保美国在人工智能领域的持续领导地位,我们支持通过加强先进芯片和半导体制造设备的出口管制、遏制非法模型访问和蒸馏攻击等政策举措,防止民主国家最先进的技术被用于推进威权主义人工智能。
下一步行动
这些政策框架只是一个起点。我们向Public First Action的捐款是我们在努力提升这一紧迫政策辩论重要性的一种方式。
相关内容
经济未来研究基金的研究议程
我们正在分享Anthropic经济未来研究基金的研究议程。
阅读更多
通过Claude了解Anthropic经济指数
我们正在为Claude推出Anthropic经济指数连接器,使任何人都可以探索关于人工智能和工作的实际数据。
申请Anthropic的科学人工智能罕见病研究资助
Anthropic正在针对罕见遗传疾病发布专门的AI for Science研究资助申请。入选申请者将在六个月内获得最高5万美元的Claude积分,目标是建立一个研究社区,探索人工智能如何重塑我们对罕见病的理解。