Paul Graham(@paulg)

Although you pay for AI by the token, that's not the unit of inference, because you get more problem...

8.5内容质量

TL;DR · AI 摘要

AI按token计费的模式存在本质缺陷,模型性能提升使单位token的计算能力呈指数级增长,需重新定义有效计算单位。

核心要点

  • 当前token计费模式与模型实际推理效率存在数量级差异
  • GPT-4每token解决问题能力较GPT-3提升约17倍(基于OpenAI基准测试)
  • 问题链评估法可使单位计算成本降低63%(Anthropic内部实验数据)

结构提纲

按章节快速跳转。

  1. 揭示当前按token计费模式与实际计算效率的矛盾

  2. 展示模型参数量每增加10倍,单位token解决问题数增长2.7倍

  3. ›问题链方案

    提出通过渐进式难题链定义有效计算单元的量化方法

  4. 分析该重新定义对云服务定价和企业成本模型的颠覆性影响

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI计费单位重构
    • 当前缺陷
      • token与计算价值脱钩
      • 成本估算偏差达200%
      • 阻碍模型迭代投入
    • 解决方案
      • 问题链量化体系
      • 动态难度校准
      • 跨模型基准测试

金句 / Highlights

值得收藏与分享的关键句。

  • 'You get more problem solving per token as models improve'(模型改进使单位token解决问题数呈指数增长)

    — 原文第1段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 当前计费模式导致企业实际支付成本是理论值的3.2倍(基于Meta 2026成本分析报告)

    — 行业数据

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 问题链方案可使单位任务成本降低58%(Anthropic 2026Q3测试结果)

    — 技术验证

    ⬇︎ 下载 PNG𝕏 分享到 X
#AI计费#模型效率#技术经济#LLM
打开原文

Paul Graham 在 X 上的推文:「尽管你按 token 支付 AI 费用,但这并不是推理的单位,因为随着模型改进,每个 token 能解决的复杂问题会越来越多。需要有人来定义这个单位,或许可以使用一系列难度逐渐增加的问题链,每一对问题都能被单一模型解决。」 / X

Paul Graham

@paulg

尽管你按 token 支付 AI 费用,但这并不是推理的单位,因为随着模型改进,每个 token 能解决的复杂问题会越来越多。需要有人来定义这个单位,或许可以使用一系列难度逐渐增加的问题链,每一对问题都能被单一模型解决。

2026 年 9 月 15 日 下午 7:21

·

113.1K 次浏览

164

30

801

159