Helping build shared standards for advanced AI

标题：帮助建立高级人工智能的共享标准

URL来源：https://openai.com/index/helping-build-shared-standards-for-advanced-ai

功能日益强大的模型可以加强网络防御，加速科学发现，并扩大专业知识的获取渠道。但如果对其能力存在误解、安全措施不足，或者政府缺乏必要的信息来应对，它们也可能带来安全和安全风险。为了安全且自信地实现这些好处，社会将需要具备技术能力和治理能力的机构，以评估、保障和管理日益强大的系统。

这就是OpenAI帮助成立Appia基金会⁠(在新窗口中打开)的原因之一，该基金会由Linux基金会托管。Appia将制定开放、模块化的规范，旨在将国际标准和现有框架转化为人工智能价值链中实用的评估标准。其工作可以帮助建立一个关键的缺失信任层，第三方可以据此检查是否符合标准，从而在不同组织开发模型、基础设施和应用程序时，产生更清晰且可重复使用的证据。通过这项工作，Appia将帮助创建一种共享的技术语言，使国家和国际机构能够相互信任彼此的工作。

我们认为这一努力是加强高级人工智能系统所需机构、标准和评估实践的更广泛工作中的重要下一步。

我们最近发布的前沿人工智能的民主治理蓝图为这项工作提供了一条路线图。它呼吁建立一个持久的美国框架，加强人工智能标准与创新中心（CAISI），并在政府范围内制定更广泛的韧性战略。它还承认前沿风险具有国际范围。各国应共同努力，制定兼容的安全框架、值得信赖的风险信息共享渠道，并对事件进行协调应对。

国家能力与国际合作应相互促进。像CAISI这样的强大机构可以发展技术专长，评估前沿系统，并支持一个独立的评估生态系统。一个由有能力的国家机构组成的网络随后可以建立共享的方法，认可可信的证据，并为政府提供共同的技术理解，以共同行动。

标准是这一努力的核心，它们必须建立在可信的评估实践和技术严谨性之上。在我们的关于可信第三方评估的共享手册中，我们列出了前沿评估日益需要披露的内容：所测试的系统、其工具访问和评估工具、用于激发能力的方法、可用的资源以及用于验证结果的检查。我们还通过与美国CAISI和英国AISI的测试合作将这些原则付诸实践，他们的前沿能力评估和生物滥用防护工作促使我们在系统中实现了具体的改进。这项工作在建立标准化实践的基础上发挥着重要作用，以可比的方式检查性能。

这些实践补充了 OpenAI 更广泛的安全基础设施。我们的 Preparedness Framework 是我们定义和实施应对高级人工智能系统最严重风险的方法的基础，包括我们的内部实践。我们的 Frontier Governance Framework 将这种方法的相关部分应用于一个公开的治理文件，专注于特定的监管义务，包括风险评估、模型报告、安全控制、事件响应以及纳入外部专家意见。这些文档共同帮助将广泛承诺转化为可验证和改进的操作实践。

Appia 的工作旨在应对下一个挑战：使这些实践在不同组织、司法管辖区和供应链中实现互操作性。

在这些论坛中，包括现在通过 Appia，我们的目标是将前沿开发的经验转化为开放且技术基础的实践，供政府、公司和独立评估者在不同司法管辖区使用。