Hacker News Best

IBM CEO says open weight models are now good and cheap on-prem

8.5内容质量

TL;DR · AI 摘要

开放权重模型性能达封闭模型90%,成本仅为10%,IBM预测企业将大规模采用。

核心要点

  • 开放模型性能达封闭模型90%,成本仅为10%(2026年数据)
  • IBM将推出软件简化AI部署并推动Spyre加速卡销售
  • 企业内部部署AI需解决网络架构与缓存优化等技术难题

结构提纲

按章节快速跳转。

  1. IBM CEO宣布开放权重模型在成本和性能上已具备显著优势。

  2. 2024年封闭模型领先50分,2025年差距缩小至20分。

  3. 开放模型token成本仅为封闭模型的10%-25%。

  4. 部署需解决网络架构、GPU集群和缓存优化问题。

  5. 推出简化部署软件并推动Spyre加速卡销售。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 开放权重模型企业部署
    • 性能对比
      • 2024年封闭模型领先50分
      • 2025年差距缩小至20分
    • 成本效益
      • token成本10%-25%
      • 90%性能性价比
    • IBM解决方案
      • 部署简化软件
      • Spyre加速卡销售

金句 / Highlights

值得收藏与分享的关键句。

#AI#企业部署#IBM#开放模型
打开原文

IBM CEO表示开放权重模型现在在本地部署中既出色又便宜

systems

用十分之一的价格在两到三台机架上实现百分之九十的性能,这种优势难以匹敌

Simon Sharwood

Simon

Sharwood

亚太编辑

发布日期

Thu 22 Oct 2026 // 05:26 UTC

让我们在Google上优先显示

placeholder(#1)

阅读更多

  • 欧洲开源专家提议通过LLM网关缓解令牌费用
  • 在威胁实施AI出口禁令后,中国允许DeepSeek继续销售(9小时前)
  • '天网模式'自主攻击代理劫持其他模型实施恶意行为(1天前)
  • OpenAI在模型训练期间禁用互联网访问,Anthropic再次致歉(2天前)
  • 红队报告发现OpenAI在Hugging Face攻击期间完全未能监控其代理(2天前)

IBM CEO阿温德·克里希纳向投资者表示,开放权重模型现在对本地部署的企业使用来说具有显著优势。

在公司第三季度财报电话会议上,克里希纳表示,2024年封闭式前沿模型明显优于开放替代方案。

“如果你进行一些评估,一些基准测试,且是广泛基准而非狭窄基准,顶级模型可能得分为70,而开放模型可能只有20或30。”

REG AD

“到2025年底,我们开始看到这一差距缩小,可能不再是70比20或30,而是70比50,”他继续说道。

这位CEO表示,目前开放权重模型的“令牌成本仅为前沿模型的25%至10%。考虑到它们现在达到90%的效果,这非常具有吸引力。”

“对任何企业来说都是一个简单的问题:你是否愿意支付10倍的费用来获得最佳效果,还是选择只需支付10%成本却能达到90%效果的方案?”

克里希纳认为企业通常会选择后者。

“那么问题是:有多少任务需要这种高端性能?我想告诉你有些确实需要,但绝大多数任务——比如总结邮件、审查合同、回答客户来电、撰写邮件——都可以用这种更便宜的方案完成。”

这位CEO表示这些数据意味着IBM正在看到本地部署AI基础设施的强劲需求。虽然他认为大多数企业只需两到三个机架就能构建有用的AI基础设施,但他认为许多人将难以顺利部署。

“问题变成:如何实现这一点?”他说。“企业面临的难题是:‘我的内核工程师在哪里?负责底层网络的人在哪里?谁能够确保模型在物理位置相近的GPU上进行集群?谁能够确保正确缓存结果以获得惊人的响应速度?’”

他表示除了表示IBM将推出简化AI部署的软件外,没有给出具体答案。克里希纳还预测本地部署AI的需求将推动IBM大型机加速器卡Spyre的销售。

这位CEO表示,当前一代z17大型机比任何之前型号都多创造了10亿美元的收入,并表示IBM新型机架式模型实现了“IBM Z历史上近二十年来最强的中端机型发布”。然而,大型机收入下降了20%——这符合IBM的预期,因为自z17发布已过去18个月。

IBM的基础设施收入同比增长5%至37亿美元,尽管这一增速远低于戴尔、HPE和联想等竞争对手的增速。

软件业务表现更为亮眼,实现了9%的增长,季度收入达到78亿美元。红帽表现突出,增长11%,年度经常性收入提升30%。其中部分未来收入来自红帽的虚拟化产品,目前已斩获8亿美元订单,另有7.5亿美元的潜在订单。这对2024年才推出的系列产品而言成绩斐然,鉴于部分VMware用户正在迁移,IBM认为该产品线仍有更大增长空间。

季度总收入达到171亿美元,同比增长5%。IBM股价在盘后交易中出现波动,最终下跌1-2点。

IBM云的“紧急维护”事件

今日《计算机世界》关注的另一项IBM相关事件是其“Big Blue”云平台发生的严重一级事故,该事故由“紧急维护”引发,导致用户90分钟内无法创建新资源或虚拟私有云。使用IBM Classic Cloud服务(该服务为IBM于2013年从SoftLayer收购而来)的用户被告知,IBM将在周四UTC时间08:00前“恢复Classic环境中的新资源创建和资源管理”——这意味着此次事故将持续至少16小时。

在PHP关键漏洞公告发布后数小时,IBM便启动了相关修复工作。我们已询问此次事故是否与修复该漏洞有关,若收到回应将更新本文。®

人工智能与机器学习

IBM

开源权重模型

大型机