通过全球领导力推进青年安全与机遇

通过全球领导力推进青年安全与机遇

AI 可以成为年轻人的强大工具。它可以帮助学生理解复杂的概念、练习一门新语言、准备求职面试、探索创意想法或学习一项新技能。正如20世纪中期扫盲运动在全球范围内推广时，需要大规模分发印刷文字并提供受过训练的教师，今天提供安全可靠的AI访问权限，将开启个性化学习的新机遇，帮助弱势群体减少障碍，并提升劳动力准备度。

由于潜在益处极为显著，确保年轻人能够以安全、适合其年龄且有助于健康发展的途径接触AI至关重要。这一责任不应主要落在父母或年轻人自身身上。包括OpenAI在内的企业有责任在产品设计之初即内置适当的安全保障措施，同时为家庭提供工具和信息，以指导AI的使用方式。

本月晚些时候，当各国领导人齐聚法国埃维昂举行的七国集团峰会时，“青年AI安全”将成为关键议题之一。OpenAI将参与讨论如何加强青年安全领域的合作、如何共同提升行业标准，并提出建立一个国际青年安全研究所的新倡议。

七国集团峰会代表了一次难得的机会，可推动全球范围内的青年安全协调合作。但设立一个专门机构将提供超越单次峰会所需的持续性和后续跟进机制，帮助政府、研究人员、民间社会和产业界保持协作，逐步共享证据、制定指导方针并提升标准。

实现这一目标的方式多种多样：可通过成立一个新的国际机构，或赋予现有或新设的国家AI研究所全球使命，使其向全球合作伙伴分享研究成果、证据和指导建议。最重要的是该机构所发挥的功能。青年AI安全问题需要持续关注、值得信赖的证据以及能跟上技术发展步伐的实用指南。

此类机构可以借鉴诸如“常识媒体”（Common Sense Media）发起的“青年AI安全研究所”等新兴举措——该研究所获得OpenAI基金会支持；也可以依托与教育工作者的实际合作项目，例如OpenAI与美国教师联合会的合作。此外，还应参考现实世界中的部署案例，如爱沙尼亚在全国学校推行ChatGPT的过程——OpenAI正与斯坦福大学及爱沙尼亚研究人员合作，研究其影响并指导更安全、更有效的学习应用。

OpenAI欢迎与法国政府、其他七国集团成员国政府以及来自民间社会、学术界和产业界的伙伴携手合作，共同推进这项至关重要的工作，并提升全球青年安全标准。

制定全球青年AI安全标准

我们相信，强有力的青年AI安全框架——包括任何可能在七国集团会议中达成的协议——都应由以下原则引领。

1. 公司应知晓用户是否为未成年人，并采取适合其年龄的保护措施。 这意味着要求服务提供商采用有效且隐私保护的年龄估算方法，以区分未成年人与成年人；当无法确定用户年龄时，默认启用保护性安全措施。若缺乏这一基础，即使最善意的青少年保护措施也可能无法惠及其本意要保护的年轻人群体。

1. 公司应定期评估对青少年而言的风险与收益，并在伤害发生前采取措施加以应对。 这意味着要求服务提供商每年完成一次青少年安全风险评估，并根据所识别的风险实施相应比例的安全保障措施。此类评估应考虑青少年基于其发展阶段所面临的风险、实际使用中的实证数据以及相关研究或监管指引。评估不仅应关注潜在危害，还应考察人工智能是否支持积极成果，如学习、创造力、技能发展及获得机会的能力。

1. 家长和监护人应拥有易于访问、易用的控制工具，以帮助他们引导子女的体验，同时支持适龄独立。 这些工具应包括管理关键设置的功能，例如记忆、数据使用和时间限制。家长工具应被主动推广，使家长了解其存在并掌握如何使用。

1. 家庭有权获得清晰、易懂的信息，了解公司如何保护年轻用户，并获取关于青少年使用人工智能所带来的益处与风险的实质性信息。 公司应发布安全政策，说明已采取哪些保障措施来保护青少年、提供哪些家长工具，以及如何随着风险演变而更新保护机制。这种透明度有助于建立信任，帮助家长做出知情决策。

1. 公司应建立明确的处理严重安全事件的协议，包括自残、剥削、诱骗、性剥削内容及其他高风险互动情况。 这些协议应涵盖在服务中提供支持、转介至适当资源，以及在合适情况下及时通知家长。公司还应设计系统，防止生成对儿童不安全或发育不当的内容，包括图形性或暴力内容。

1. 青少年使用的AI系统应被设计为支持学习、发展和现实人际关系——而非取代它们。 AI应作为辅助青少年学习、创造、构建技能并为未来做好准备的工具。同时，公司应在那些健康发展中依赖人类判断、现实人际关系和专业支持的领域设立清晰界限。

1. 未成年人的个人信息应受到保护。 这意味着禁止向青少年推送侵犯隐私的定向广告，并禁止公司出售个人数据。

1. 青少年安全框架应促进机会、素养与保护。 青少年应能接触支持学习、创造力、技能发展及未来机遇的人工智能工具，同时具备必要的知识和批判性思维能力，以便安全、负责任地使用AI。这包括推广AI素养，帮助青少年理解AI系统的机遇与局限，从而自信且负责任地参与数字空间。

1. 强有力的问责机制，包括独立审计，对于确保这些保护措施在实践中具有实质意义至关重要。 审计应基于一套共同标准，以实现跨司法管辖区的互操作性审计。立法框架应包含监督与执行措施，使政府能够评估公司是否有效落实青少年安全保障措施、缓解已识别风险，并遵守青少年安全与隐私义务。

这些原则体现在我们构建和运营ChatGPT的方式中，从模型行为与产品设计到专家输入与现实世界支持。我们已强化了针对18岁以下用户的保障措施，推出了家长控制功能⁠并配合主动提醒，以及先进的年龄预测系统⁠，以便ChatGPT在用户可能未满18岁时应用更强的保护措施。我们的《模型规范》（Model Spec）明确了模型应有的行为准则，其中也包含了专门针对18岁以下用户的原则⁠(opens in a new window)，优先保障青少年安全、适龄体验、现实支持及清晰预期。在实践中，这意味着对自残、危险活动、图形内容、身体形象及隐秘行为等更严格的限制，同时鼓励用户在需要时寻求可信赖的线下支持或危机资源。当年龄不确定时，我们默认采用更强的保障措施。

AI 设计时具备强大的安全保护措施，并辅以清晰的指导和支持，来自家庭和教育工作者的帮助，能够帮助年轻人安全地受益于扩展学习、创造力和机会的工具。AI 可以帮助学生理解复杂的概念、练习语言、提升写作能力、学习编程、组织研究、探索创意想法，并为正在发生变化的职业做好准备。通过 Education for Countries⁠，OpenAI 正与各国政府和教育工作者合作，推动基于研究的部署、本地化学习工具及教师培训，确保 AI 的应用建立在实证和真实课堂需求的基础上。这项工作已与我们的合作伙伴国家（包括 爱沙尼亚⁠、希腊⁠ 和 新加坡⁠）共同支持其国家教育努力。

OpenAI 在 G7 峰会期间

除了参与领导人峰会外，我们还将把 OpenAI 论坛⁠(opens in a new window) 带到巴黎，召集政府、研究人员、民间社会、教育工作者和行业代表展开务实对话，探讨如何将共同的青少年安全目标转化为具体的保障措施、标准和实施实践。法国人工智能与数字事务大使 Clara Chappaz 将与 OpenAI 全球事务主管 Chris Lehane、iRaise/Everyone.AI 的青年安全领袖及其他专家共同讨论，探讨如何让年轻人从 AI 中获益的同时降低风险。