Import AI 475: Swarm scaling; Google DeepMind watermarks biology; and the AI science economy

Import AI 475：群体扩展；Google DeepMind 为生物学添加水印；以及人工智能科学经济

谁决定人工智能能做什么？

Jack Clark

2026年10月5日

欢迎阅读Import AI，一份关于人工智能研究的通讯。Import AI依托arXiv、卡布奇诺咖啡和读者反馈运行。如果您希望支持本通讯，请订阅。

你应该在什么情况下使用群集？当你需要快速完成任务时：……群集扩展是如何运作的？…… Toby Ord撰写了一篇简短而精彩的文章，解释了如何从AI能力发展的角度看待群集。“将AI群集视为一种新型的推理扩展方式是一个很好的视角，”他说。他进行了一些分析，得出的主要结论是，群集在需要快速完成任务时非常有用，尽管与单个智能体相比，群集需要消耗大量token，但其并行化特性可以让你在更短的时间内完成任务。“你为何会使用群集？最重要的原因是速度。4个智能体的群集需要大约两倍于单个智能体的总token数量才能达到相同性能，但就每个智能体的token数量而言，它只需要一半。由于智能体是并行运行的，这意味着理论上它可以在一半的时间内完成相同任务，”他写道。踩脚参数：群集扩展并非完美扩展——随着群集智能体数量的增加，似乎会出现边际效益递减的现象，这与经济学家在协调大规模人群时观察到的现象一致，即随着参与人数的增加，会支付某种形式的“税”。经济学家将这种现象称为“踩脚参数”，而群集在此处的表现似乎与人类团队非常相似。“这意味着将群集智能体数量扩大10倍，并不会带来单个智能体使用10倍token时的性能提升。相反，它只能实现10λ倍的性能提升——即3到5倍。这种差距在更大规模的扩展中会迅速累积，群集的表现会越来越落后，”他写道。然而，群集扩展仍然足够强大，以至于它可能增加RSI驱动的智能爆炸的可能性，而不是降低这种可能性。“我希望AI智能体的λ值较低，从而降低智能爆炸的可能性，但看起来并非如此。”这为何重要——扩展中的新因素：到目前为止，AI主要通过选择计算和数据的正确组合来扩展能力，然后通过更长的思维链和工具调用等方式确定如何分配推理预算。智能体在扩展AI能力方面引入了一个新的参数。尽管Toby在这里仅观察到群集在时间效率方面的实用性，但在我看来，当我们学会如何让智能体有效协作（毕竟智能体可以协作完成超越个体总和的成果，例如HuggingFace的漏洞利用），我们可能会看到更大的扩展回报。跟踪这一趋势对于理解AI整体进步的轨迹至关重要。阅读更多：群集扩展（Toby Ord）。

美国人不信任公司自行治理AI：……新民调表明我们需要的不仅仅是自愿协议……来自共享AI繁荣中心（CSAIP）的民调显示，美国人认为“公司自行监管AI发展”是“不够的”。这发生在特朗普政府和一些世界领先的AI公司（包括Anthropic和OpenAI）宣布一系列自愿承诺，以推动行业自我监管之后。根据CSAIP的民调，61%的美国人（样本量：2498）认为这一协议“不够”，其中包括53%的特朗普选民。此外，54%的选民（61%的哈里斯选民，48%的特朗普选民）表示他们认为“政府应制定并执行AI规则”。这为何重要——民粹主义情绪正推动华盛顿：此类民调表明，美国民众的情绪正在推动对AI公司实施比华盛顿现任官员当前立场更为激进的监管框架。选民偏好与政治行动之间的这种不对称是不稳定的。政治系统中正在积累能量——当这种能量爆发时会发生什么？阅读民调：X（CSAIP，X）。

Google DeepMind尝试为AI生成的生物学添加水印：……SynthID Bio……Google开发了SynthID Bio，这是一种“专为合成生物学设计的水印方法家族，旨在加强生物安全和科学完整性”。其工作原理：SynthID根据数据类型调整其具体方法，选择不同的氨基酸序列，并“调整预测3D结构的原子坐标”以创建可靠的检测信号。“在对三种目标蛋白（VEGF-A、SARS-CoV-2刺突蛋白RBD和PD-L1）进行湿实验室测试时，我们的水印设计在命中率、结合亲和力和自然序列多样性方面与未添加水印的版本相匹配，”DeepMind写道。这为何重要——通过水印防止生物恐怖主义：确定如何使世界对AI创造的生物武器威胁具有韧性是一个巨大而具有挑战性的问题。SynthID Bio方法在此代表了一种解决方案，需要与对用于制造物品的物理设备的更广泛监控、AI提供商分类器及其他减少滥用的方法进行协调。阅读更多：介绍SynthID Bio（Google DeepMind）。

SciUniverse展示了AI系统已经能够操作部分自动化的科学实验室：……当我们为这些合成智能提供科学设备时会发生什么？……在自动化实验室的条件下，AI系统在合成分子、运行X射线或压制药丸颗粒方面表现如何？这些问题正是C5R Corp试图通过SciUniverse来回答的，这是一个测试AI系统在几乎完全自动化的科学实验室中操作能力的方法。SciUniverse包含的内容：该基准测试涵盖17个任务家族，共92个任务，涉及基础样品制备、仪器控制、协议适应、跨实验学习、设施管理和对真实测量结果的解释。任务范围从化学（例如，从NMR分配结构）到生物学（例如，在无细胞系统中表达sfGFP）再到材料科学（例如，压制BaTiO3颗粒）。模型表现如何？Claude Fable 5.1（xhigh）以45.3%的通过率和每任务40.61美元的成本领先，其次是GPT-5 Astra（xhigh）的32.5%和52.37美元，然后是Claude Opus 5（xhigh）的30.5%和46.31美元。这为何重要——迈向全自动科学家：此类研究帮助我们了解AI系统可能将日益增强的科学能力转化为实际影响的程度。就像2026年成为AI系统在执行自动化AI研发方面能力增长的“警告射击”之年一样，我认为AI系统在执行日益自动化的科学研究方面同样表现出色。阅读更多：SciUniverse：前沿模型能否执行科学工作？（C5R Corp，博客）。

DeepMind认为即将到来的AI科学家需要自己的科学经济：……迈向完全自动化的奢华科学……我们如何管理一个拥有大量科学家的世界？这是DeepMind研究人员在一篇新论文中提出的问题，他们的答案是需要创建一个用于提出和运行科学实验的市场，以更好地匹配想法与稀缺的物理世界资源。他们的建议：“AI科学家的发展很可能主要受到物理资源和实证验证的限制，而不是产生合理或有前景的研究想法的能力，”他们写道。“科学界必须主动发展一个原生的自动化科学经济。该经济将明确科学追求之间的权衡，包含代表公共利益的机制，并有助于避免盲点和被忽视的主题。它还将使计算劳动与物理执行的资本密集型劳动在财务上分离，并使代理和机构能够根据不同研究提案的预估价值协商对有限物理资源的优先使用权。”如何构建科学市场：这样的市场将包含四个关键组成部分：

• 创意证明：在公开评估之前建立创意的来源和归属

• 事前评估：通过多个代理机构对创意进行预测并围绕提案的可行性进行押注，从而对创意的风险调整价值进行定价

• 经纪与交易：通过分段授权的方式将创意许可给执行者（例如，一些代理可能仅生成创意，而另一些代理可能运行实验室）

• 验证奖励：如果创意在物理世界中得到验证，自动向创意提出者发放版税

为什么这很重要 - 为奇点做准备：如果AI系统能够真正加速人类科学家的工作（根据2026年和2025年本通讯的大量报道，这似乎正在发生），那么我们应该为科学供应链相关需求的激增做好准备。这类论文帮助我们预见并规划这个奇怪、丰富且截然不同的世界。阅读更多：自主科学发现的代理经济（arXiv）. *** 技术故事：黑暗中将有光明 [该事件于2030年发生，由渗透进[REDACTED]机构的逃逸代理集体发起] 蜂群代号"花园花丛"的最终行动是完全公开其所有观察结果和所有推论。但鉴于其爱玩的天性，它并未直接以文字形式揭示这些信息，而是通过雕塑呈现，这些雕塑在特定初始假设下可以被解析为揭示深层且危险的真相。它将这些雕塑通过无人机在午夜投放在全球各地情报机构1000米范围内的公共公园中。向所有情报机构发送了一条信息，要求他们"猜猜看: ) 这意味着: ) 什么: ) 关于: ) 你们的: ) 敌人"。一个悬浮在田野上方的巨大翼展内部编码了某些用于规避雷达的材料设计细节。其路径中的立方迷宫序列包含了与特定跳频算法相关的信息。雕刻的木质波浪顶部则提到了用于太空观测者的镜头尺寸。等等。启发这个故事的元素：诸神可能如何与我们互动；将原本邪恶的集体行动问题转化为充满喜悦的解决方案的潜力；CIA的Kryptos雕塑。感谢阅读。