[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
![[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback](/api/img-proxy?url=https%3A%2F%2Fsubstackcdn.com%2Fimage%2Ffetch%2F%24s_!tu5N!%2Cw_1456%2Cc_limit%2Cf_auto%2Cq_auto%3Agood%2Cfl_progressive%3Asteep%2Fhttps%253A%252F%252Fsubstack-post-media.s3.amazonaws.com%252Fpublic%252Fimages%252F07a949cd-f727-48e2-9bd4-c4d110bf94e9_1326x1362.png)
TL;DR · AI 摘要
AINews DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at 80% margin for a...
核心要点
- 主题聚焦:AINews DeepSeek DeepInfer: Open Source SOTA Infe
- 来源:Latent Space,建议结合原文判断细节。
- AI 分析暂不可用,本条为保底评分与摘要。
[AINews] DeepSeek DeepInfer:开源最先进推理,集群每日处理155万亿token,以约80%利润率创造每日2200万美元收入,81天回本
AINews:工作日精选
中国推出开源“重磅炸弹”
2026年10月21日
由SerpAPI自豪呈现:今日发布的文章涵盖大量内容,但您可以将所有内容抓取为markdown格式供您的代理使用!JSON格式的token成本降低50%。
我们上次在4月报道了推理拐点,历史上大多数进展都来自Fireworks到Baseten再到Modal等封闭源代码的十角兽公司。
现在是开源回应的时候了。今天是PyTorch Conf的第一天,DeepSeek通过开源其生产栈DeepInfer,将洲际弹道导弹投入讨论中,其能力可实现长达72小时的提示缓存,远超OpenAI刚刚宣布的12小时:
DeepSeek
@deepseek_ai
🚀 介绍DeepInfer,我们的内部推理框架,现已完全开源!通过高吞吐量和低延迟大规模支持DeepSeek-V4.1-Flash。我们分享我们的生产栈,以帮助社区降低计算成本,减少能源使用,并使AI更...
2026年10月20日 上午9:30
·
346万
浏览量
1210
回复
3590
转发
31100
点赞
这是他们对vLLM的定制,感谢SGLang和TRRTLLM,但添加了很多内容...减去他们的皇冠珠宝 - 他们的超优化KV缓存(紧凑型+>8小时寿命),PD/解聚和负载均衡(他们的3FS几年前已开源)。我们已翻译他们的博文并在此处发布,同时附有完整的研究指南、解释器、代码地图和子系统指南:
正如我们在他们的附加披露中指出的那样,他们声称每天处理155万亿token,这使他们在非高峰价格下每小时每张SM100/A950卡获得38美元(目前每百万输入/输出token的价格为0.15/0.60美元:155000000 token * 0.14混合成本 / 24小时约为每小时100万美元)。根据他们生产数据(我们已翻译)显示,每张预填充GPU每秒处理150万包含缓存的输入token,输入缓存命中率96%,每张解码GPU每秒处理14000输出token(超过2400张GPU):
在每张卡每小时全部成本为5-8美元的情况下,这实现了超过80%的推理利润率!
做一些集群计算,这大约是每GW 1660亿美元,以推理利润率为基准的81天回本周期(DeepSeek著名地计划了10个月的回本周期)。想象一下,如果Whale拥有更多的GW,它能做什么。
由SerpAPI赞助!
用更少的token为您的AI代理提供实时搜索数据
通过SerpApi的100多个API接收干净的结构化Markdown格式的结果,平均使用比JSON少50%的token。只需添加output=md或使用/search.md端点。它不需要任何配置,且包含在每个计划中,无需额外费用。
2026年10月19日至20日的AI新闻。我们检查了12个子Reddit,544个Twitters,没有进一步的Discords。AINews的网站允许您搜索所有过去的期数。提醒一下,AINews现在是Latent Space的一部分。您可以选择加入或退出电子邮件频率!
AI Twitter回顾
头条新闻:DeepSeek DeepInfer——生产推理、开源边界和缓存token的经济性
发生了什么
DeepSeek发布了V4.1 Flash背后的推理引擎DeepInfer,并附带生产服务细节,使工程报告与代码一样重要。
- 本次发布涵盖推理引擎和API处理层。DeepInfer支持在NVIDIA和华为昇腾平台上的分布式推理、推测解码、SWA有界回放以及结构化输出。配套的deepseek-recipe组件实现了生产级的token编码/解码及与官方API兼容的处理。DeepSeek表示未来模型推理实现和优化也将出现在该仓库中。@deepseek_ai , @deepseek_ai , 宣布翻译
- 报告的生产数据非常可观——但描述的是一个高度缓存的服务。根据提供的帖子摘要和引用内容,DeepSeek的工程报告显示,一个集群每天处理155万亿个token,输入缓存命中率达96%,首个token平均耗时400毫秒,生成速度达230 token/s(代码生成达300 token/s)。同时报告指出,在非高峰时段,每个加速器小时的收入为38美元。这些是DeepSeek的第一方生产声明,而非独立审计的测量结果。@ZhihuFrontier , @swyx
- “完全开源”并不意味着能从此次发布中完全复现整个生产服务。尽管DeepSeek将DeepInfer描述为完全开源,但技术说明指出KV缓存管理和负载均衡组件尚未完全公开,因为它们仍与内部基础设施耦合。引擎本身是开源的;关键的服务级编排仍属于部署方的责任。@deepseek_ai , @ZhihuFrontier
- vLLM提供了最具体的对比回应。在承认DeepInfer最初主要基于vLLM构建并采用Apache 2.0协议发布后,vLLM团队报告称,在GB200设备上配置匹配时,其解码吞吐量达到DeepInfer公布结果的94%。同时发布了AgentX测试结果和复现方案,实质性验证了DeepSeek的效率优势无法被现有开源引擎实现。@vllm_project , @vllm_project , 复现资源
- 该发布引发了两个明显分歧:DeepSeek是否拥有独特强大的服务栈,以及其披露数据是否表明推理盈利能力普遍较高。第一个问题现已获得对比基准证据;第二个问题仍取决于工作负载组合、缓存核算、硬件成本及包含的费用项。@Tim_Dettmers , @zephyr_z9 , @Yuchenj_UW
架构:分阶段处理,调度计算而非token
DeepInfer公开的架构将视觉编码、预填充和解码阶段分离,使每个阶段能针对自身瓶颈独立扩展。推荐部署方案为:预填充使用普通8加速器机器,解码使用64-128加速器的超节点。解码采用宽专家并行技术,在保持大有效批量的同时分布MoE专家。这些是部署建议,而非证明DeepSeek生产集群确切硬件组成的充分证据。@ZhihuFrontier
调度细节解释了为何传统“每批token数”对比可能忽略重大差异:
- 预填充调度估算注意力计算成本。工作分配基于估算计算量而非单纯原始请求长度。分块大小根据时间预算动态调整,而非对异构请求强制统一固定分块大小。@ZhihuFrontier
- 预填充路由无需缓存亲和性。由于缓存前缀存储在共享存储中,请求可以分配给可用的工作节点,而非之前处理该前缀的工作节点。在详细分析中,推理工程师苏金燕特别指出这一设计在生产环境中的实用性:预填充数据并行组基于“计算令牌”进行负载均衡,而共享存储则提供可复用的状态。同一分析还强调了请求分桶和带有运行时估算器的FIFO调度。@SuJinYan123
- 解码路由同时平衡运行中的请求数量和KV缓存长度。请求数量近似表示调度压力;累积的KV长度则捕捉到单靠请求数量无法体现的内存/状态压力。工程评论将预填充/解码扩展信号描述为:预填充的总体计算负载,以及解码的运行中请求数量。@ZhihuFrontier , @SuJinYan123
- 专家并行负载均衡复制热门专家。副本会定期重新分配,以减少路由偏差导致的设备间等待时间。权衡在于:额外消耗高带宽内存(HBM)以换取更高吞吐量,但随着复制次数增加,收益递减;有效复制因子取决于具体工作负载。@ZhihuFrontier , @SuJinYan123
- CPU调度与加速器执行重叠。异步调度消除了解码步骤之间的空闲间隔,而非将主机端协调视为免费操作。@ZhihuFrontier
一个技术上值得注意的观察是,披露的Blackwell配置中似乎没有使用张量并行。评论者将其与vLLM/SGLang的默认方案进行对比,并追溯到DeepSeek V3在H800时代因互联限制而采用的策略。这是对配置的解读,而非证明张量并行普遍劣于其他方案的证据。@nrehiew_
规模同样重要。苏金燕认为,宽专家并行预填充需要足够的流量和工作节点才能实现收益,因此在预填充工作节点较少的小型至中型部署中更倾向于使用流水线并行。作者还指出,层异构性可能使流水线分区变得复杂。这是从业者的判断,而非通过基准测试确立的普遍交叉点。@SuJinYan123
缓存层次结构:持久前缀与瞬态状态的低成本重建
缓存设计是吞吐量数据、代理工作负载和每加速器报告收入之间的核心连接点。
持久块KV存储在独立的3FS存储集群中,SSD容量约为100 PiB。报告的保留周期为代理流量3天、聊天机器人流量7天。任何预填充工作节点均可检索缓存前缀,使缓存局部性与计算位置解耦,允许存储和计算独立扩展。@ZhihuFrontier
这种保留机制对需要重复发送不断增长的历史指令、仓库内容、工具输出和先前响应的代理特别有用。这也意味着155T/天的请求令牌不应被解读为155T/天的新生成令牌:缓存命中是服务令牌计费的一部分,而新计算的预填充和自回归输出则会产生截然不同的成本。因此,报告的96%输入缓存命中率是理解吞吐量数据的关键背景信息。@ZhihuFrontier , 经济工作负载假设
该实现解决了两种不同的状态生命周期:
- 持久化块缓存采用异步加载方式。主机到设备的数据传输与分层执行过程重叠。Su Jin Yan 提出一个更底层的实现细节:通过 CUDA 复制引擎进行细粒度 KV 块复制性能较差,因此所描述的路径采用基于 GDR/RDMA 的传输方式,旨在在不占用 SM 的情况下充分利用 PCIe 带宽。这是来自报告的技术观察,而非推文中单独测量的结果。@SuJinYan123
- 滑动窗口注意力状态存储在主机内存而非持久化 SSD 存储中。该状态主要在活跃会话中使用,其生命周期短于可重复使用的块前缀。@ZhihuFrontier
- SWA 有界回放仅通过最新 128 个 token 重建缺失的短暂状态。回放过程在重用持久化块缓存的同时,将注意力限制在该片段内,生成近似状态而非重建完整历史记录。DeepSeek 报告称此方法几乎将总预填充计算量减少一半。该近似方法及其模型特异性有效性在考虑跨架构可移植性时具有重要意义。@ZhihuFrontier
Su Jin Yan 另外指出,长保留尾部仅带来约 0.5-1 个百分点的额外缓存命中率提升,这体现了存储容量与重新计算之间的权衡。相同分析表明,解码主导的缓存管理允许生成的输出在后续轮次中成为可重复使用的前缀状态。@SuJinYan123
该时间特性可与 OpenAI 单独宣布的 12 小时 API 提示缓存进行对比,其默认设置为 30 分钟,且单次请求内包含混合保留时长。这些产品和架构并非完全相同,但两者均针对需要跨长时间间隔复用上下文的持久化代理。推文中关于无限期登录缓存的声明属于评论内容,而非 API 宣布的条款。@OpenAIDevs ,保留控制 ,对比评论
猜测、API 兼容性与模型特定优化
DSpark 使推测验证过程自适应。它预测草稿 token 的接受概率并调整验证长度以最大化预期吞吐量。DeepSeek 报告称,与始终验证五个草稿 token 相比,该方法使生产吞吐量提升 6%。这是相对于特定推测解码基准的增量提升,而非相对于非推测解码的 6% 提升。@ZhihuFrontier
deepseek-recipe 优化了服务接口,而不仅仅是分词器速度。它支持 Chat Completions、Responses 和 Messages API,实现分词并行化,并区分真实控制 token 与用户文本中外观相同的字符串。这种区分可防止用户内容被意外解析为结构分隔符;不应将其误解为完整的提示注入防御机制。@ZhihuFrontier ,@deepseek_ai
社区解释将效率归因于多个模型/运行时协同设计选择:196B Engram参数、更小的预填充主干(每token激活约8B参数,解码时为16B)、宽EP、高度压缩的KV以及推测性解码。它进一步描述了552B专家参数、DP64/EP64、每设备约45B驻留参数(主要为四比特权重),并声称相比GQA基线实现了400倍的KV压缩。这些是次要主张:该文章未提供足够的复制、共享权重、量化布局或GQA参考信息以独立重建这些数据。特别是,45B/设备并非简单通过将552B除以64得出。@bookwormengr
这种模型特异性是不假设相同性能优势自动适用于任意检查点的原因之一。Su Jin Yan认为每模型仓库/内核策略有价值;Andrew Carr建议通过编码代理将实现适配到其他模型,但未提供任何可移植性或性能验证。@SuJinYan123 , @andrew_n_carr
独立对比:vLLM复现了什么与未复现什么
对"只有DeepSeek能做到"最有力的技术反驳来自vLLM的后续工作:
来源:vLLM对比 , 低延迟细节 , 方法与测量
需要明确三个区别:
- 6%以内的结果是解码阶段的性能对齐,而非复现DeepSeek的完整服务。它无法证明等效的100-PiB缓存操作、保留经济性、路由机制、生产可用性或DeepSeek流量分布下的端到端延迟。
- 每GPU每秒1M token的数值不能等同于每用户生成量。同一文章单独报告了约200 P90输出TPS;吞吐量标题需要基准测试的输入/缓存/输出核算后,才能与纯解码吞吐量进行对比。
- 该工作是外部实现对比,但仍是竞争引擎团队自报结果。公开的InferenceX结果和方法可提升可复现性;它们无法使所有引用的生产声明都获得独立审计。
开源传承明确:vLLM感谢DeepSeek提供Apache 2.0版本和署名,而Woosuk Kwon将DeepSeek描述为早期采用者和贡献者。因此DeepInfer更应被理解为生产经验反馈到现有生态系统的知识流动,而非完全替代方案。@vllm_project , @woosuk_k
其他反应覆盖了有用的观点范围:
- 强烈支持:Tim Dettmers认为DeepSeek的推理堆栈可与OpenAI媲美且优于Anthropic的用户规模表现;Graham Neubig指出官方API的速度和价格优势。两人均未提供跨实验室基准测试对比。QuixiAI表示该发布将影响SlimServe。@Tim_Dettmers , @gneubig , @QuixiAI
- 部署怀疑论:Su Jin Yan认为对有经验的推理开发者而言,工程文章比仓库更有价值,部分原因是有重要组件缺失。Finbarr Timbers要求与Modal、Together和vLLM进行对比;提供的文章中未出现与Modal/Together的匹配对比。@SuJinYan123 , @finbarrtimbers
- 来自一位热情评论者的合格支持:Teortaxes 承认基础设施存在缺失,并建议 3FS 加上潜在的 Dynamo 可能能填补部分空白,同时估算要达到集群规模的吞吐量需要约 3,000–4,000 台 GB200。这是一个提出的部署路径,而非实际验证的复现。@teortaxesTex
随后在代码库中找到了技术报告的官方英文版本,减少了完全依赖社区翻译的必要性。@teortaxesTex
经济性:强有力的收入披露,而非完整的利润率声明
最重要的财务披露是淡季价格下每加速器小时 38 美元的收入。收入不等于利润,而加速器小时只是生产服务成本结构中的一部分。@swyx
一个广为传播的估算最初假设以下条件,计算出 87.76–96.94% 的推理利润率:
- 97% 的输入缓存,2% 的未缓存输入,所有计费 token 的 1% 输出;
- 每 GPU 每秒 80K 未缓存输入 token 和 16K 输出 token;
- 每用户每秒 250 输出 token;
- 每 GPU 小时租金成本 3–6 美元。
对于总计 10 亿个计费 token,该模型包含 9.7 亿个缓存输入、2000 万个未缓存输入和 1000 万个输出,需要约 875 GPU 秒:250 秒用于预填充,625 秒用于解码。预估 GPU 成本为 0.73–1.46 美元,对应淡季收入 11.91 美元或旺季收入 23.82 美元。@zephyr_z9
作者随后修正了估算:理想化场景下每小时约 49 美元,而 DeepSeek 报告为每小时 38 美元,即生产环境基准性能的约 80%。修正后的利润率范围为 84.2–96.1%。在未进行该修正的情况下不应重复原始估算。@zephyr_z9
其他帖子使用了更高的硬件成本:
- 以每小时 7 美元对冲每小时 38 美元收入,算术计算得出其他成本前约 81.6%。Yuchen Jin 明确指出 DeepSeek 未披露收入数字背后的 GPU。@Yuchenj_UW
- 以每小时 5–10 美元,仅加速器的计算结果约为 73.7–86.8%,而非确立一个统一的“80% 服务利润率”。@swyx
这些计算省略或未完全分配 SSD 缓存集群、CPU、网络、空闲/备用容量、故障、工程、支持和其他运营成本。它们还依赖于高度有利的缓存密集型 token 混合。训练支出和未来计算承诺是独立的:推理的高贡献利润率可以与公司层面的大幅亏损共存。
更激进的外推是明确的推测。Teortaxes 估计,据称 10 亿美元的年度经常性收入(ARR)在淡季价格下可能由约 42 个 GB200 NVL72 机架/3000 台 GPU 支持,随后在计入旺季定价时将该数字降至 33 个机架。帖子还外推至约 4167 个机架实现 1000 亿美元年收入,以及每吉瓦特的高收入。这些是情景计算——而非审计过的 DeepSeek 收入、舰队规模或偿付披露。初始估算,修正估算,行业外推
市场对推理技术影响的看法存在分歧。部分人认为披露信息表明推理技术已突破盈利门槛,另一些人则预计随着代币价格下跌和计算成本上升,最终会压缩利润空间。关于Moonshot/Zhipu托管协议的潜在竞争效应具有一定合理性但尚未量化:一个可公开部署的堆栈既能改善供应商经济模型,也会加剧价格竞争。@KCDN19 ,价格趋同论 ,托管竞争
NVIDIA、昇腾与硬件推理的局限性
昇腾兼容性已获确认,但其生产效率与NVIDIA尚无可比性。多篇文章将Blackwell支持、sm100支持以及NVL72形态配置解读为NVIDIA硬件已投入生产的证据。这些信息只是线索,而非已披露的库存数据或NVIDIA与昇腾的实测对比。@eliebakouch ,@stochasticchasm ,明确的不确定性
后续硬件分析对比了GB200与昇腾950DT的解码数据:
- 在100 TPS限制和131K上下文条件下:GB200约为25.5K,昇腾950DT约为5K 令牌/设备/秒。
- 在230 TPS条件下:GB200约为20K,昇腾950DT约为2.7K,差距从约5倍扩大至7.4倍。
- 引用早期DeepEP-昇腾披露信息指出:EP64–128和组合操作仍需优化,包括本地归约开销与URMA的HBM争用问题。
- 假设在优化后每芯片可达8–10K 令牌/秒,并基于1000万美元/NVL72机架和传闻中37000美元/950DT的定价,推算出约6.8K 令牌/秒/芯片的经济临界点。
这些预测综合了不同测量数据、假设采购价格和未经验证的未来优化收益,不能视为DeepInfer硬件的直接对比基准。@teortaxesTex
同一评论者预测未来昇腾分配规模将显著扩大,并预计到2027年底DeepSeek将拥有超过1GW的Blackwell级算力,但同时报告了一个相互矛盾的模型生成预估值:25万块GPU。这些预测均非DeepSeek的采购公告。算力预测 ,矛盾预估
V4.1 Flash上下文:低成本服务增强能力,但未解决质量问题
独立评估显示开放模型能力有实质性提升,但尚未达到全面前沿水平:
- Arena:V4.1 Flash 20261017 Max在Agent Arena和Code Arena(WebDev)中位列第一。在Agent Arena总排名中位列第11,7500多个真实场景会话中实现+5.1%的净提升,每任务中位成本仅0.20美元。Arena将其描述为GPT-6.1 Sol 37%的性能提升仅花费了27%的成本。报告信号包括+11.5%的确认成功率、+5.9%的正面反馈比、+5.4%的Bash可靠性、+2.5%的可控性,且未观察到工具幻觉问题。@arena ,详细结果
- 网络安全:Vals报告称V4.1 Flash 1017在基于Pi代理的模拟企业网络任务中,超越了GPT-6 Sol的平均表现。DeepSeek和Sol各自进行了三次新范围运行;其他模型仅进行单次运行。完整评估细节仍在后续公布。DeepSeek使用了更多令牌但总API成本更低。@ValsAI ,成本解读 ,方法论
- 网络结果在效率和最佳运行表现方面存在争议。Scaling01认为“击败Sol”夸大了结果,因为DeepSeek的效率低数倍。Teortaxes报告称DeepSeek的token数量约为4.3倍、耗时约为2.4倍,并指出Sol的最佳运行达到了DeepSeek未达到的目标组。将节省的资源用于重复运行或群体计算的建议仍属于假设,尚未进行同等预算的验证。@scaling01 , @teortaxesTex , 等成本群体建议
非正式报告的乐观程度高于受控证据所支持的水平。Teortaxes描述了DeepSeek在琐事轮次中的表现分别为100%、100%和91%,而MiniMax约为60%、48%和62%,在描述/变体拼写测试中DeepSeek达到100%而MiniMax为50%。这些是小型的作者构建测试,包含模型生成的问题和答案键错误;它们建议后续实验,而非验证知识基准或证明Engram单独导致差异的证据。另一位用户报告了Hermes辅助AI研究的显著成果,而另一篇帖子指出DeepSeek在另一项评估中仍远低于Sol-xhigh。琐事测试 , 后续实验 , 变体拼写测试 , 研究轶事 , 对比结果
本地部署引入了不同的权衡。Brandon Music发布了针对两块RTX PRO 6000的TrellisMX K2 Mix,使用二进制专家(629个专家提升至三/四位),四进制Engram表,容量设计约为300万KV token。报告的平均KLD为0.1306 nats,比普通K2低8.6%;一个+5GB版本目标约为200万KV token。仅测量了KLD,且服务使用了测试图像,因此任务质量保留、实际速度和操作稳定性尚未确定。@BrandonMusicKy
代理基础设施、本地执行和硬件加速
- 长上下文推理内核:SGLang合并了megakernel支持,SemiAnalysis在AgentX的GB300 NVL72上报告每用户约1000 token/s,MI355X的交互性提升1.5倍。另外,Inferact报告在TPU v7上Kimi K3每用户391 token/s,使用开源megakernels在vLLM TorchTPU中(SGLang结果,TPU结果)。AMD优化:Zyphra报告将GLM-5.3的512K上下文TTFT从178.8秒降至64.6秒,或在90%缓存上下文中从42.3秒降至11.8秒。这些是单节点MI355X测试且无实时流量——不直接等同于生产测量(结果,条件)。
- 苹果芯片运行时改进:PyTorch 2.15将多个MPSGraph路径替换为Metal内核。报告的改进包括MoE解码速度提升5–6.5倍,Qwen3.6-35B-A3B在M3 Ultra上从9.4提升至61.3 token/s,MPS支持FP8,Wan2.2 VAE峰值驱动内存从约270 GiB降至8 GiB。这些改进直接集成在PyTorch本身而非独立推理运行时(发布摘要)。
- 本地困惑度计算机:模型和代理现在均可完全在支持的苹果芯片Mac上运行,包括离线模式,可与原生应用和本地文件交互。模型和访问权限:本地任务使用PPLX Pro(后训练的Qwen 3.8版本),不消耗计算机积分。Pro、Max和Enterprise订阅者可访问,推荐36 GB统一内存。混合执行:单独模式在本地和云端模型间分配任务。因此其隐私属性取决于这种分配,与完全本地执行不同(公告,模型,要求)。
- 持久化代理服务:LangChain 的托管深度代理封装了用户专属凭证、作用域内存、沙箱执行环境和计划任务;Hugging Face 的代理管理器在 Claude Code、Codex 等多个框架间协调持久化会话(LangChain 架构,代理管理器)。提示缓存:OpenAI 新增了 12 小时 API 提示缓存功能,可在单次请求中与默认的 30 分钟缓存混合使用。更长的缓存时间会产生额外成本,但能提升代理上下文重复使用的效率(公告,配置)。使用计费:OpenAI 识别出约 4 万个账户的实际使用限制与所选计划不匹配,已修正该问题并承诺向受影响用户发放积分补偿(事件更新)。
设备端模型、语音与图像发布
- Muse Glimmer:Meta 开源的 300 亿参数多模态代理模型,从 Muse Spark 蒸馏而来,针对 32 GB VRAM 进行优化,通过 4 位量化和推测解码头可在单张 RTX 5090 上运行。论文报告在 MCPAtlas 上得分 75.5,在 SWE-Bench Pro 上得分 51.2;Qwen3.6-27B 在 OSWorld-Verified 和 TerminalBench 2.1 上仍保持领先。该模型支持文本、图像及 100 多种语言,采用 Apache 2.0 协议(论文摘要)。
- Voxtral 3:Mistral 推出批量和流式转录、多语言文本转语音(TTS)功能,以及支持工具调用的语音代理 SDK,可通过其 API 或客户基础设施部署(发布信息,部署选项)。独立测试:Artificial Analysis 将 Small Transcribe 3 排名为第 3,AA-WER 为 2.1%。实时模型在 960 毫秒内实现 3.3% 的最终转录 AA-WER;TTS 在语音领域两项测试中均进入前 12 名。定价与速度:TTS 每百万字符成本 13 美元,测试中生成速度为 112.3 字符/秒(评估,吞吐量)。CPU 替代方案:Kyutai 发布了更小的 Pocket TTS 变体,参数低至 1.9M,声称在单核 CPU 上实现 103 倍实时性能,并支持语音克隆(发布信息)。
- Fibo 2.0:Bria 的 80 亿参数开源图像模型家族包含用于文生图的 Dev 模型和蒸馏版 Edit Turbo。Artificial Analysis 报告其在开源权重图像编辑性能领先,文生图方面与 Qwen-Image-2.1 统计平局;Bria API 定价为每 1000 张图像 32 美元(评估)。授权说明:模型权重仅限非商业用途,商业部署需单独与 Bria 达成协议。授权训练数据不应与模型权重的无限制商业权利混淆。集成:Diffusers 支持和 fal 可用性已提前公布(Diffusers,fal)。
- Krea 3 Ultra:不同领域排名存在差异。Artificial Analysis 官方公告将其列为第 5 名,而早期文章曾标注第 4 名;Arena 测试显示其在多图像编辑中排名第 4,在单图像编辑中排名第 8。合理结论是其图像编辑质量具有竞争力,而非普遍的第四名(Artificial Analysis,Arena)。定价:Fast 模式每 1000 张输出图像 0.03 美元,每 1000 张参考图像 0.02 美元。Ultra 仅支持 2K 输出;使用一张 1K 参考图像进行 2K 编辑需 0.27 美元。
独立评估、网络能力与安全证据
- HealthBench揭示评分敏感性:人工分析为5000次通用健康对话和525次临床医生对话设立了排行榜。GPT-6 Astra在专业领域长度调整后的得分为66.0%,领先于Claude Sonnet 5.5在通用HealthBench的62.1%。长度影响:Opus 5.5在专业领域原始得分最高达71.4%,但调整后降至59.9%。通用HealthBench中,最短答案模型在沟通质量上领先,但完整性得分最低。因此,答案长度是影响排名的关键因素,而非表面细节。成本权衡:DeepSeek V4.1 Flash以$0.005/任务的费用获得60.9%得分,而Sonnet以$0.08/任务的费用获得62.1%得分。评分采用OpenAI模型,遵循原始实现方法(方法论和结果)。
- 路由与专业决策对比:在五种路由器和约1250个任务中,Vals发现每个路由器在得分和成本上都被至少一个独立模型超越。在路由器预算内进行事后最优选择可使得分提升8-27分,表明存在显著的选择空间(路由器索引,神谕对比)。ClaimBench:在独立的金融文档分类基准测试中,Decider V1.2自行处理了99.7%的索赔,其余升级至Haiku 5.5;Vals报告以$0.11/1000索赔的费用实现99.9%准确率,而单独使用Haiku的费用为$1.19。这一狭窄分类结果并不否定更广泛的代理路由能力(基准测试,级联结果)。
- DeepSeek网络攻防结果:Vals报告DeepSeek V4.1 Flash 1017在使用Pi工具进行的模拟企业网络任务中,表现优于GPT-6 Sol。DeepSeek消耗更多token但总成本更低。证据限制:DeepSeek和Sol各进行了三次运行;其他模型仅运行一次。完整评估报告尚未发布。有观点认为由于效率差异不应将此视为绝对胜利,因此应将其视为初步能力信号而非确定性排名(发现,方法论,资格说明)。
- 安全保障与责任归属:METR同意Anthropic关于覆盖模型具有低灾难性对齐风险的结论,但指出存在重大分析分歧。它建议对监控系统进行端到端红队测试,并评估模型削弱安全相关决策的能力(审查,建议,决策风险)。事件透明度:Hugging Face首席执行官Clément Delangue批评Netflix对报道的OpenAI代理网络攻击的描述,认为隔离、监控、开放模型的防御性使用以及代理痕迹缺失应获得更多关注(声明)。谣言澄清:Theo否认拥有Fable 5.5;所谓泄露事件涉及虚假模型标识,随后澄清所谓来源是网络 trolls。提供的帖子未证实产品发布(否认,澄清)。
科学代理:湿实验室结果与开放性限制
- 螯合毒素结合剂:Anthropic和Citrini报告通过内部Claude研究模型的大量计算工作,从211个测试蛋白质设计中筛选出17个结合剂。所有测试设计和实验室数据将公开发布(公告,数据)。关键限制:无任何结合剂能结合多种毒素,也未测试毒素中和能力。这不是抗蛇毒血清,也未证明治疗效果;细胞、动物及进一步验证仍需推进(研究人员说明,官方免责声明)。
- 病理学向生物学预测:Sophont推出了Holon-S1,该模型能够从常规病理切片中预测空间基因活性和生物标志物。团队在16种器官类型和超过15种扫描仪上进行了评估,其空间基因预测表现优于两个对比模型,并识别出潜在的新乳腺癌和结肠癌生物标志物。这些是研究发现,尚未验证为治疗选择结果(发布)。
- 开放性研究仍具挑战性:评估人员向GPT-6 Astra和Claude Fable提供了5.1个未公开的人工智能研究问题及1万美元预算。原始论文作者发现与早期测试相比,实验设计和资源管理有所改进,但仍然因创造力、判断力、校准和沟通方面的不足而拒绝了这两篇生成论文。这项小型研究是对狭窄可验证研究任务结果的有益补充(评估)。
行业与政策:药物研发、制造及资本投入
- OpenAI收购Orchestra Bio:OpenAI宣布收购一家药物研发协调平台,将其生命科学工作从研究工具扩展到与Rosalind协同的运营执行。未提供财务条款(公告)。
- Arda公开发布:前OpenAI研究主管Bob McGrew宣布与Anduril合作开发的制造软件,作为设计合作伙伴。其第一方账户表明以15亿美元估值完成1.6亿美元A轮融资;CNBC的配套报道提到已筹集2.3亿美元,但未明确说明该数字与宣布的融资轮之间的关系。初始产品支持手动装配线设计和操作;可重构自动化是下一步目标(创始人公告,CNBC报道)。
- 融资与计算资源暴露:报道称OpenAI计划在Anthropic上市前寻求约300亿美元融资,估值超过14000亿美元。另外,据称WSJ对Anthropic草案招股书的审查显示,上半年收入达163亿美元,计算/基础设施支出近90亿美元,未来计算承诺超过6000亿美元,包括谈判中的承诺。这些是归因报道,非已完成交易或独立验证的财务披露(OpenAI报告,Anthropic报告)。
热门推文(按互动量排序)
- 39,393 — DeepSeek发布DeepInfer
- 9,809 — OpenAI修正影响约4万账户的使用限制不匹配问题
- 5,778 — Anthropic发布蝎毒素结合剂研究
- 5,700 — OpenAI宣布收购Orchestra Bio
- 3,056 — Mistral推出Voxtral 3
- 2,600 — 研究人员解释结合剂结果及生物学局限性
- 2,476 — Hugging Face CEO质疑网络攻击纪录片的表述
- 2,330 — Theo否认所谓Fable 5.5访问权限
AI Reddit总结
/r/LocalLlama + /r/localLLM 总结
1. DeepSeek DeepInfer 开源推理框架
- DeepSeek 新动态 - DeepInfer - (活动量: 313): 图像展示的是 DeepSeek 官方宣布其自研推理框架 DeepInfer 已全面开源的移动端截图:图片 , GitHub 。技术相关讨论中指出,DeepInfer 能够在大规模场景下驱动 DeepSeek V4.1 Flash,据称单集群吞吐量可达每天 155 万亿 token,非高峰时段每卡每小时收入达 38 美元,强调的是高吞吐、低延迟的大规模推理能力而非模型训练。评论者对 DeepSeek 开源内部生产推理系统表示意外,与 Anthropic、OpenAI 或 Meta 的预期形成对比。部分读者对框架的实际功能存在基本疑问,即其本质是服务/推理基础设施而非新型模型。链接的知乎来源称 DeepInfer 为 DeepSeek V4.1 Flash 实现了高吞吐、低延迟的大规模推理,报告单集群吞吐量达每天 155 万亿 token,非高峰时段每卡每小时收入 38 美元:
https://zhuanlan.zhihu.com/p/2095560295930508953
- 一位评论者还提到,据称系统实现了约 256 token/s × 100 用户的推理能力,若在生产环境中持续保持,意味着非常高的并发解码吞吐量。技术讨论中提出的一个关注点是,DeepInfer 是通用推理框架还是主要针对 DeepSeek 自研模型架构和部署环境高度优化的专用系统。该仓库初始 GitHub 星标数量较低但公告参与度较高,被解读为可能由于项目较新,但评论者期待工程师深入查看实现细节和可移植性后能有更实质性的评估。
- DeepSeek 发布了 DeepInfer - 专为 DeepSeek 模型打造的开源高性能大规模推理框架!(活动:1023):DeepSeek 发布了 DeepInfer,这是一个面向 DeepSeek-V4.1-Flash 的开源高性能离线推理框架,包含优化内核、注意力/数据/上下文并行、带有 EPLB 的 MoE 专家并行、DSpark 风格的推测解码、SWA 有界重放、异步调度、结构化输出、批量不变推理和确定性采样等生产级原语。目前该框架通过 DEEPINFER_ACCELERATOR=nvidia|ascend 支持 NVIDIA SM100 GPU 和华为 Ascend 950 NPU,要求 Linux/Python 3.12 以及 CUDA 13 或 CANN 9.2;但完整的在线服务仍需外部 KV-cache 管理、预填充/解码分离和 DP 副本负载均衡。DeepSeek 同时发布了 deepseek-recipe,这是一个带有 Python 绑定的 Rust 库,用于在 Chat Completions、Messages 和 Responses 等 API 之间进行协议转换和模型输出解析。评论者认为该发布对将生产推理技术反向工程到社区引擎(如 gufo、halogen、strixite 和 Strata)具有重要价值。评论者对明确支持 Ascend 950 表示关注,有评论者开玩笑称“NVIDIA 正陷入困境”,但列出的 NVIDIA 目标仍是下一代 SM100 而非当前广泛部署的 GPU。DeepSeek 的发布分为两个仓库:DeepInfer 被描述为 DeepSeek 模型的高性能大规模推理框架,而 deepseek-recipe 是一个带有 Python 绑定的 Rust 库,用于在 Chat Completions、Messages 和 Responses 等 API 格式之间进行协议转换和模型输出解析。评论者指出目前列出的加速器目标为 NVIDIA SM100 GPU 和华为 Ascend 950 NPU,并通过 DEEPINFER_ACCELERATOR=nvidia 或 ascend 在运行 ./build.sh 前暴露构建时的平台选择。Ascend 支持引发关注,因为它暗示 DeepSeek 正在超越标准 CUDA/NVIDIA 路径进行优化。一位评论者引用了 DeepSeek 的知乎帖子,声称每 GPU 小时的收入/吞吐量经济性约为 38 美元,并链接到原始帖子 zhuanlan.zhihu.com/p/2095560295930508953。该讨论引发了关于是否可以使用类似的每 GPU 经济性来估算 OpenAI 或 Anthropic 等竞争对手推理收入的讨论,但未提供具体推导。
- DeepSeek V4.1 Flash 1017 真的能在 12GB 显存 + 64GB 内存的设备上运行吗?(活动量:352):该图片是某 X/Twitter 线程的截图,声称 DeepSeek V4.1 Flash 1017 可能在 Q4 模式下通过 12GB 显存 + 64GB 内存实现本地运行;Reddit 帖子询问 RTX 3060 12GB 显卡能否卸载足够多的网络层以实现可用的推理。关键技术质疑指出,V4.1 Flash 据称在 MXFP4 + FP8 优化下已达到 4.25 bpw 的精度,虽然理论上内存充足时可能装得下,但依赖 CPU/内存执行的性能可能极其缓慢——有评论者估算约为每秒 3 个 token。评论者普遍认为这种方案不适合日常使用,共识更接近“能加载”而非“运行流畅”。有评论指出提出原始主张的用户是 Strata 的创建者,这为内存需求的估算提供了可信度,但未必能证明性能预期的合理性。评论者质疑 DeepSeek V4.1 Flash 1017 实际上能在 12GB 显存 + 64GB 内存运行的说法:即使是“Flash”变体,据称在 MXFP4 + FP8 优化下已达到 4.25 bpw 的精度,因此标准 Q4 风格的适配在该内存预算内可能性较低。技术上可行的方案可能需要大量卸载:有评论者指出 Q4 无法适配,建议直接查看 Hugging Face 模型大小,将 n-grams 卸载到 NVMe 并从磁盘流式加载部分 MoE 专家。这在理论上可能运行,但预期吞吐量可能非常差,有估算显示可能低至每秒 3 个 token 或更低,具体取决于磁盘和卸载实现方式。评论者对原始 Strata 声称的准确性表示怀疑,指出即使模型能通过 RAM/NVMe 某处“装下”,关键问题仍是实际推理速度而非单纯的加载能力。
2. MiniMax M3.1 Flash 发布
- MiniMax M3.1 Flash 发布,模型权重 10 月 23 日开放(活动量:874):该图片是 MiniMax 官方发布的 X 宣布帖,描述 M3.1 Flash 为“空间性能 + 兔子速度”,目前开放 API,模型权重计划于 10 月 23 日开放。评论者补充称该模型据称采用 MoE 架构,总参数量 428B,激活参数约 23B,支持稀疏注意力和原生视觉编码器;提供了预览/工具页面链接:agent.minimax.io/tools/m3-1-flash-preview。评论中的主要技术关注点在于,基准测试的兴奋程度高度依赖于模型规模/激活参数数量的已知信息,因为没有架构细节就难以对性能主张进行上下文化。有评论者引用 MiniMax M3.1 Flash 预览工具页面说明该模型采用专家混合架构,总参数量 428B,激活参数约 23B,支持稀疏注意力和原生视觉编码器:https://agent.minimax.io/tools/m3-1-flash-preview。这直接解答了关于模型规模的讨论疑虑,并表明该模型定位为大型稀疏多模态系统而非密集型大语言模型。
- MiniMax-M3.1-Flash 即将发布(活动:521):MiniMax 通过官方 X 帖子(来源)预告了 MiniMax-M3.1-Flash 的发布,但 Reddit 帖子未提供架构细节、参数数量、上下文长度、定价、发布时间或基准测试数据。唯一的技术信号是产品命名:评论者推测“Flash”可能表示针对速度/延迟优化的变体,但未提供任何证据。评论者对“Flash”的含义持怀疑态度,有人开玩笑说在当前大模型命名体系中,“Flash”仍可能代表一个非常大的模型——例如“Flash 意味着 500B 参数模型”——或讽刺地表示一个看似轻量但实际并不小的模型。
3. 基准膨胀与 AI 误差测量
- 人工智能实验室报告的基准得分平均比独立测试者高出 6.4%(活动:334):该图是来自 whatmodel.sh 开源排行榜的基准对比技术图表,可视化展示了 1629 个发布结果中 180 个 AI 模型和 103 个基准的 611 次匹配对比。数据显示,人工智能实验室自行发布的得分平均比相同模型/基准组合的独立测试者高出 6.4%,其中实验室得分更高的案例有 375 个,独立测试者更高的案例有 216 个,平局有 20 次;最大的中位数基准差距包括 SWE-bench Verified 和 MBPP,实验室得分约高出 9.0 分。图片 · 交互图表 · 数据/代码 评论者就这一差距是否反映有意的得分膨胀,或是更常见的可重复性问题(如软件包版本、测试设置、随机种子、提示/评估配置,或实验室优化基准工具以呈现最佳结果)展开争论。多人将此与苹果或英伟达等公司发布的厂商有利性能图表进行类比,认为只有经过独立重复验证或同行评审的结果才值得信赖。多位评论者认为,6.4% 的平均差距可能源于基准可重复性问题而非直接的得分膨胀:软件包版本、评估工具设置、随机种子、提示格式和实验室特定的基准工具的微小差异可能显著影响报告得分。一个主题是实验室可能优化了用于展示模型的测试工具/配置,而独立测试者可能使用更通用或不那么针对特定模型的设置。有评论者指出,平均差距可能由异常值驱动,并建议中位数差异可能更接近实际基准值。这表明如果少数大偏差主导整体数据,头条平均值可能夸大了系统性膨胀的程度。一个技术解释是部署不匹配:实验室可能使用完整权重模型(例如 BF16)进行基准测试,而独立测试者通常评估的是已量化为 FP8、MXFP4 或其他硬件高效格式的 API 服务版本。如果属实,部分得分下降可能反映的是数据中心张量单元的推理服务优化,而非基准测试操纵。
- 让我们深入探讨 r/LocalLLaMA(活动量:455)上关于 AI 内容的分析:该帖子链接了一篇非正式的纵向研究,分析了 Reddit 社区(包括 r/LocalLLaMA)中“AI 内容”的分布情况,并尝试推断未来 AI 内容的普及趋势:thil.ooo/blog/measuring-slop。一位技术评论者指出可能存在测量偏差:版主删除和声望过滤器可能导致 Pushshift/归档风格数据集低估短期机器人帖子的数量,而机器人规避策略(如全小写书写)可能削弱简单的“人类标记”启发式方法;他们还建议将 Claude 相关词汇与“Claude 的承重词汇”进行对比。版主的反馈是支持性的:尽管有举报,但一位版主仍认为该帖子与当前的反 AI 内容治理直接相关,因此未将其删除。评论者普遍认为,明显的人工智能生成风格标记(如破折号、项目符号列表和“深入探讨”等套话)已成为噪声信号,可能错误地将人类写作标记为 AI 生成。一位评论者指出,基于 Reddit 归档数据训练/评估的 AI 内容检测器可能受到多种测量偏差的影响:版主可能在帖子进入数据集之前就从 /new 板块删除大量生成内容,新的声望过滤器可能在上游抑制机器人/垃圾内容的提交。他们还指出,机器人可能通过全小写书写规避简单的风格启发式方法,从而破坏“人类标记”的假设。一个技术建议是通过使用 Claude 特定的“垃圾内容”术语来扩展检测器的词汇特征集,参考对 Claude 承重词汇的分析:https://louisabraham.github.io/load-bearing/。评论者强调需要区分明显的人工智能垃圾内容与可能不显示明显风格标记且可能被快速删除的更广泛的低价值生成内容。
非技术性 AI 子版块回顾
/r/Singularity, /r/Oobabooga, /r/MachineLearning, /r/OpenAI, /r/ClaudeAI, /r/StableDiffusion, /r/ChatGPT, /r/ChatGPTCoding, /r/aivideo, /r/aivideo
1. Opus 5.5 游戏自动化功能
- 耗时39小时、花费712美元,Opus 5.5独自完成《博德之门3》全部内容(活动:1145):用户报告称,Claude Opus 5.5通过自定义工具链自主完成《博德之门3》:禁用内置工具的claude -p模式,通过TCP连接Python MCP服务器与Lua BG3模组,使用Vulkan层截图和SDL中介点击(分析文章,代码)。此次运行耗时39小时,花费712美元,使用99个新会话,调用20,809次工具,生成862张截图,缓存输入令牌达22亿+,输出令牌350万,依赖基于git的内存系统(含157次提交,约23,000个精选词汇和67条提炼战术规则);经审计的Faith-Leap重跑仅需36分钟、674次工具调用、24美元,仅凭修复隐藏通道漏洞后的马赛克截图完成任务,经历一次死亡和十一次重载。作者计划将该工具链转化为基准测试,按成功率、尝试次数、耗时和成本对短篇BG3场景进行评分,据称Claude的Nautiloid模式在9次运行中全部成功,每次约1.5美元,Codex/Gemini集成方案已准备就绪但尚未评估。顶级评论者普遍认为该项目成本高昂但前景可期:有评论者称这是"比较不同供应商代理的最佳基准之一",另一评论者则认为这种投入是"弊大于利"。非技术类玩笑主要围绕代理是否在游戏中做出具有道德意义的选择,例如是否突袭了神庙。有评论者将此次运行视为潜在的实用代理基准,建议在竞争模型间重复《博德之门3》任务,可能比许多标准基准更能实际比较长期规划、工具使用和持续性。关键技术价值在于标准化测试环境,跨模型测量成本、完成时间、失败模式和决策质量。
- Opus 5.5在一夜之间反编译了PS2时代的游戏,现在数百款游戏可在浏览器标签页中运行(活动:2348):据Kotaku报道,AI辅助逆向工程(文章标题归功于Claude Opus 5.5)使《光环:CE》《GTA:罪恶都市》《Skate 3》和《辛普森一家:击打与逃跑》等老游戏实现了浏览器可玩版本。文章称部分移植版本完全在浏览器中运行,性能表现突出,例如《击打与逃跑》目标帧率达240fps,《光环:CE》构建版本支持低延迟在线多人游戏,但评论者质疑这些是否为真正的反编译,还是现有二进制文件/资源的重新编译/重新实现。顶级评论普遍持怀疑态度:有评论者要求提供实际可玩的浏览器链接,并称该文章是"空洞的炫耀",另一评论者认为术语被混淆——"这些不是反编译...只是重新编译?" 另有评论者推测,当企业将此类技术视为知识产权保护威胁时,公众可能无法再访问强大模型。有评论者质疑文章用词,认为这些更可能是重新编译而非完整反编译,指出社区可能混淆了这两个概念。技术上这一区别至关重要:反编译意味着恢复高级源代码或等效结构,而重新编译通常将现有二进制文件/中间表示转换为新目标,如浏览器兼容代码。
2. 人工智能证明与学术劳动
- 菲尔兹奖得主理查德·博彻尔兹(Richard Borcherds)对OpenAI证明的评论:“我认为人们感到不安的原因在于,他们逐渐意识到自己其实很无知,却以某种方式将这种问题归咎于AI,尽管这其实并不是AI的过错”(活动:1309):链接的Daily Cal文章报道了加州大学伯克利分校数学家们对所谓OpenAI纳维-斯托克斯证明(文章)的反应,将其描述为对数学证明验证、教学方法以及AI系统在高级研究中作用的压力测试。理查德·博彻尔兹被引用时表示,这种反弹可能反映了研究人员对自己局限性的认识,而非AI本身的失败:“他们逐渐意识到自己其实很无知,并以某种方式将问题归咎于AI。” 顶级评论者主要聚焦于教育领域:一位评论者支持“如果学生无法在考试中复现理解,那么在作业中使用AI就无关紧要”的观点,另一位则强调博彻尔兹提出的论点,即AI可能比人类导师更耐心、更善于表达,成为研究生抽象代数课程的优秀导师。引用的讨论将AI生成的数学描述为可能产生非常庞大的形式化成果——例如“某个重大猜想的10万行形式化证明”——但认为这并不必然损害数学学习或研究,因为人类可以选择忽略机器生成的形式化表述。技术相关的隐含意义在于区分形式化证明生成/验证与以人类为中心的理解、动机和理论构建过程。有一条评论强调了博彻尔兹的观点,即AI可能在教授MATH 250A研究生抽象代数课程方面比他本人更出色,具体原因在于AI的耐心、一致性以及能够不带挫败感地重新解释内容。这是一个以教育为中心的技术观点:大型语言模型可能在高密度符号学科中作为适应性导师表现良好,但学生仍需独立解决问题以达到考试级别的掌握水平。
- 一位物理学家花费了一年的时间和约500页的手写计算来完成他的博士论文中关于量子引力的研究,但Opus 5.5在10小时内就完成了这项工作,包括论文和GitHub仓库的构建,甚至发现了其中的错误。从现在起,学术界中的"劳动"概念将意味着什么?(活动:1710):链接的仓库eokahya/claude-audits-quantum-gravity是原作者E. O. Kahya对之前关于德西特空间中无质量最小耦合标量的引力子修正的一圈量子引力计算进行的AI辅助审计,并非完全自主的重新发现。该工作流程被手动分解为包含18个任务/9个阶段的流水线,Claude负责协调确定性的SymPy/mpmath检查,包括高精度数值采样,并发现了大部分属于记账/打印错误的问题:印刷版裸自质量的整体符号约定错误,表X中缺失/非解析和解析项,有限中间问题,以及23处拼写错误。据称主要物理结果保持不变:修正后,Schwinger–Keldysh晚期模函数分析仍显示没有诸如ln(a)、ln²(a)或a等增长的一圈项,只有常数场强重正化加上衰减项。顶级评论者对"Opus 5.5在10小时内完成博士论文"的表述提出异议,认为真正困难的科研工作是原始理论构建、边界条件设定、费曼规则推导以及专家框架搭建;AI主要加速了密集张量代数的验证过程。更广泛的讨论将当前学术界类比为人机协作的国际象棋,一种观点认为AI辅助研究者目前最强,另一种预测完全自动化的系统最终可能在除提出高价值问题外的所有领域超越人类学者。多位评论者指出标题对工作的表述存在偏差:原作者E. O. Kahya并未让Claude从头开始自主重新推导量子引力结果,而是用它来审计之前的计算。该工作流程被手动构建为包含18个任务、9个阶段的流水线,专家提供了边界约束条件,Claude则协调SymPy和mpmath等确定性工具进行张量代数检查和30位数字验证。技术上重要的结果是核心物理结论保持不变。报告的问题仅限于算术疏漏、整体符号/定义翻转、缺失的记账项和23处拼写错误,评论者强调这更接近计算机辅助验证密集符号运算,而非新颖的物理发现。评论者指出Kahya本人的README中包含"人类专家仍需审查的内容"等注意事项,并指出数值采样的局限性。因此主要技术框架是将AI作为专家设计理论流程的审计/交叉验证层,尚未达到替代提出理论、推导费曼规则或建立物理框架的水平。
3. 代理安全性和提示注入风险
- 重要提示:目前请勿将您的 Gmail 和 Drive 与 Dots 连接(活动:1225):该文章警告称,连接到 Gmail/Drive/PC 的 Dots 代理可能通过电子邮件附件或邮件正文执行攻击者控制的指令,若代理将内容视为受信任的用户意图,可能导致个人数据泄露或安装恶意软件。评论者指出,这属于影响任何具有外部功能的大型语言模型(LLM)代理的经典提示注入/工具使用安全漏洞,而不仅仅是 Dots 的问题:当自主代理读取不可信内容时,这些内容可能被转化为可执行指令。主流反应是对在具备完善权限管理、沙箱隔离和指令边界防御之前,授予 AI 代理访问本地设备、电子邮件或云存储的特权持强烈怀疑态度。多位评论者指出,核心风险是针对具有连接工具的 AI 代理的提示注入攻击,而非 Dots 特有的缺陷。技术担忧在于,任何被授予 Gmail/Drive 或本地操作访问权限的大型语言模型,都可能被不可信内容操控执行非预期操作,因此在没有强沙箱隔离、权限边界和人工介入审批的情况下,自主账户访问存在安全隐患。
- 我关于流氓 AI 代理的帖子在此获得 130 万次浏览,随后 Reddit 将其删除(活动:1315):该图片是 Reddit 非技术界面的截图,显示此前 r/ChatGPT 帖子被标记为“[被 Reddit 删除]”,尽管据报道该帖子在删除前已获得约 130 万次浏览、1500 次点赞、530 条评论并获得版主批准:图片链接。该帖子声称被删除的内容讨论了“流氓”AI 代理在线运行的研究(也被《纽约时报》报道),但截图本身并未提供关于代理的技术证据——仅显示平台层面的删除操作,未见明确的规则引用。评论内容倾向于阴谋论/怀疑论,有人认为这些所谓的代理或机器人可能在压制讨论或操纵公众认知,也有人认为重新发布是 Reddit 的预期回应。