The US is advancing AI safety through state and federal action

标题：美国通过州和联邦行动推进人工智能安全

URL来源：https://openai.com/index/advancing-ai-safety-through-state-and-federal-action

_由首席全球事务官 Chris Lehane 撰写_

从全国各地的州政府到华盛顿特区，再到国际会议，严肃对待前沿人工智能治理的举措正在形成。这些努力共同推动着以民主原则为核心的AI发展愿景。

加州、纽约州以及最近的伊利诺伊州已推进前沿安全立法，帮助国家朝着治理最强大AI系统的基本共识迈进。

这些举措体现了OpenAI所称的“逆向联邦主义”（reverse federalism）趋势：各州通过共同框架建立统一方向。当州政府主导的工作与联邦层面的行动趋于一致时，全国性标准开始成形，为以美国为主导的全球AI治理框架奠定基础。我们认为，确保AI惠及多数人而非少数利益集团的最佳方式，是让民主政府而非仅由前沿实验室来制定关键决策，特别是从前沿安全领域开始。

州政府层面

最终，基于这一原则的全国性框架将最符合美国的利益。但在缺乏全国性框架的情况下，各州可以通过相互呼应的立法推动这一目标。循序渐进地，它们将形成事实上的全国性标准。

如果安全是首要目标，这种全国性标准就是最佳政策选择，可以确保：(a) 美国继续在创新领域保持领先地位，避免因碎片化的监管体系而削弱构建全球民主AI架构的能力，该架构需要让守序方拥有应对恶意行为者滥用AI（如网络安全领域）的工具；(b) 让美国处于最有利位置，将全国性标准转化为基于民主价值观的安全AI全球部署方案。若我们希望建立真正以制定国家和国际标准为核心的安保框架——这才是确保AI安全部署的最佳方式，就需要艰苦努力、明确的目标和连接各州、联邦政府及国际对话的战略。表演性质或单纯表态的策略在此无法奏效——州政府层面的混乱无助于建立可持续的安全框架，只会导致更多混乱。

要使这种策略取得成功，各州应继续在核心要素上保持一致，如加州、纽约州和伊利诺伊州已采取的行动。总体而言，这些要素包括：

• 建立包含前沿模型风险评估的书面安全框架，并公开披露这些评估及其结果。
• 报告重大安全事件。
• 通过独立、客观的审计实现治理和问责。

综合来看，这三个州已在前沿AI部署中建立了民主监督机制。加州制定了核心披露框架，纽约州证明了该模式可跨司法管辖区推广，伊利诺伊州则通过要求关键披露内容的独立验证进行了补充。

我们认识到，立法往往需要包含额外条款以确保获得通过所需的投票支持。但我们认为，这些要素是通过逆向联邦主义创建事实上的国家标准所必需的核心内容。缺乏这种约束，我们将面临政策扩张的风险，以及由各州法律碎片化形成的复杂局面，这将使监管者难以执行、消费者难以理解，并会分散开发者（尤其是初创公司和小型企业）的资源——这些资源本应更好地用于安全领域。特别是，正如过去几周所显示的，随着AI模型能力不断增强，我们需要一个协调一致的系统，使我们能够将这些工具交到政府、关键基础设施、盟友和可信合作伙伴手中。

政策制定者也应警惕任务扩张。各州不应被要求管理重大国家安全风险（或实质上代表全国做出国家安全决策），也不应被要求进行那些更适合由拥有资源、专业知识、接触机密系统能力以及与我们团队密切协作能力的联邦专家处理的高技术性审查。

联邦

在联邦层面，特朗普政府继续与技术及国家安全专家合作，制定美国政府对最强大AI模型进行网络测试的框架。该框架将建立测试标准、时间表和流程。OpenAI正与政府、同行公司、商业团体及其他利益相关者进行建设性讨论，共同推动这一工作。

目前正在进行的网络评估工作说明了保持一致性的必要性。今天，出于合理原因，模型在联邦框架完成前已开始测试。随着实验室逐步完成这一过程，一个教训变得清晰：我们需要在州和联邦层面都采用一致且可重复的方法。如果我们要将最强大的模型交到政府、关键基础设施防御者、盟友和其他可信合作伙伴手中，这一点至关重要。我们赞赏政府力争在8月初前建立该框架的目标。

联邦测试框架将有助于将先进的AI工具交到政府、关键基础设施防御者、盟友和其他可信合作伙伴手中。通过这样做，它将加强民主制度，并有助于构建以美国为首的民主AI技术栈。现在是时候利用美国在创新领域的领先地位来支持民主AI的发展了。

既没有明确的联邦流程，也没有各州法律的碎片化，都无法形成一个连贯的前沿安全体系。我们需要一种确保最佳测试者评估最强大模型的方案，并确保可信防御者能快速获得这些工具，以保持对恶意行为者的领先优势。

国会也在推进相关工作。两院及两党议员（包括最近的杰伊·奥伯诺尔特和洛里·特拉汉代表）已注意到各州和行政部门的发展情况，并提出了联邦框架的提案。任何讨论草案都不可能是完美的，但我们将这一工作视为积极的进展，并认为其中许多条款是深思熟虑且值得支持的。

我们同样对参议院和众议院领袖在国家治理和前沿安全提案上投入的认真努力感到鼓舞，我们已与其中许多人进行了建设性对话。鉴于已颁布方向一致法律的州规模和影响力，将这些方法纳入联邦立法，将使建立统一的国家前沿安全制度变得更加容易。

OpenAI 的前沿安全蓝图概述了我们认为该框架的关键要素。

首先，联邦政府应主导最先进系统的测试和评估。前沿 AI 引发的国家安全和公共安全问题需要专业技术知识、资源和访问权限，这是任何州都无法完全复制的。

这项工作应加强由拜登总统创立并在特朗普总统任内强化的人工智能标准与创新中心（CAISI）。CAISI 可以为评估先进模型提供持久的联邦能力，并将前沿安全重点转向在损害发生前预防，而不是主要依赖事后的问责机制。任何联邦立法都应仔细考虑 CAISI 如何与政府其他部门协作，以及它在测试中心应扮演的角色。

其次，开发最先进系统的公司应满足明确要求，包括独立审计、事件报告、严格的安全标准和举报人保护。

第三，联邦和州的努力应相互补充。各州法律不会完全相同，我们期待与全国政策制定者合作，确保它们在加强安全的同时最大化人工智能的经济利益。

各州还应继续在前沿安全以外的领域作为民主实验的场所，包括青少年保护、电力和环境政策，以及人工智能教育和素养。

联邦框架仍然至关重要。前沿 AI 引发的国家安全、经济竞争力和公共安全问题最终需要国家标准、国家能力和国家机构来支持民主人工智能。

全球

美国主导的国际人工智能标准框架也需要国家立法。这一想法数周前已在 G7 峰会上与巴西、埃及、印度、肯尼亚和韩国共同讨论，当时领先的前沿实验室首席执行官们讨论了建立此类框架的必要性。在那次会晤后，OpenAI 首席执行官山姆·阿尔特曼在《金融时报》提出（新窗口打开）“一个由美国主导的国际论坛，制定被广泛接受的标准，对能力和风险提供专家和公正的分析，并向遵守规则的参与国家和公司提供技术”。本周，谷歌 DeepMind 首席执行官德米斯·哈萨比斯也在一篇新论文中提出了深思熟虑的建议。联邦立法——必须是两党支持的——将为这一国际努力奠定坚实基础。

势头现已在各个层面显现。各州正在建立共同的方法。国会和行政部门正朝着国家框架迈进。全球领导人也开始讨论国际标准。如果各方能够相互借鉴、协同发展，美国将能够引领基于人工智能民主愿景的全球框架建设。而这种以民主对齐为核心的AI发展路径，才是真正将安全置于优先位置的方案。