It's quite rational to regulate frontier API models, especially to get more transparency for the gov...

clem 🤗 在 X 上的发言："监管前沿 API 模型是合理的，特别是为了向政府提供更多信息透明度，而无需监管开源 AI。原因如下：1. 目前最危险的人工智能系统并非开源模型，而是通过编程工具和助手分发的大型前沿 LLM API，原因包括：- 它们在封闭环境中秘密构建，完全黑箱运作，对能做什么或不能做什么没有任何透明度，所谓的“安全措施”模糊了所有人分析它们的能力。- 它们由少数以利润最大化为目标的巨型公司构建和控制，将前所未有的权力集中在少数人手中，每一步都倾向于淡化风险并夸大其安全措施。- 它们被分发给数亿甚至数十亿人，运行起来极其简单。2. 开源模型的风险要低得多：- 它们不像 API 和助手那样大规模分发或易于使用，尤其是大型模型。- 我们（包括政府）可以快速准确地分析它们的能力，目前所有人都确认它们在做坏事方面不如 API。- 它们被分发给所有人，因此防御者和执法部门与攻击者获得的访问权限相同。监管的利弊分析也完全不同。监管前沿 API 相对容易且风险较低，而监管开源 AI 会复杂得多，效率更低，成本高得多。监管前沿 API 只可能伤害少数几家大公司，甚至可能不会伤害它们，因为它们已经从中获得了大量营销利益。它们可以负担得起大批律师，并承受损失数十亿美元的代价，尤其是考虑到它们正朝着成为历史上最有价值的公司之一发展。相比之下，监管开源 AI 会伤害监管本应保护的人：小企业、初创公司、研究人员、非营利组织、大学、独立开发者和更广泛的公众，同时冒着扼杀竞争、减缓 AI 进展和进一步降低透明度的风险！"

下午3:00 · 2026年6月28日

22.2K

浏览量

4

0

40

2

7

27

1

9

192

44

阅读40条回复 / X