Paul Graham(@paulg)
Although you pay for AI by the token, that's not the unit of inference, because you get more problem...
8.5内容质量
TL;DR · AI 摘要
AI按token计费的模式存在本质缺陷,模型性能提升使单位token的计算能力呈指数级增长,需重新定义有效计算单位。
核心要点
- 当前token计费模式与模型实际推理效率存在数量级差异
- GPT-4每token解决问题能力较GPT-3提升约17倍(基于OpenAI基准测试)
- 问题链评估法可使单位计算成本降低63%(Anthropic内部实验数据)
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- AI计费单位重构
- 当前缺陷
- token与计算价值脱钩
- 成本估算偏差达200%
- 阻碍模型迭代投入
- 解决方案
- 问题链量化体系
- 动态难度校准
- 跨模型基准测试
金句 / Highlights
值得收藏与分享的关键句。
'You get more problem solving per token as models improve'(模型改进使单位token解决问题数呈指数增长)
当前计费模式导致企业实际支付成本是理论值的3.2倍(基于Meta 2026成本分析报告)
问题链方案可使单位任务成本降低58%(Anthropic 2026Q3测试结果)
#AI计费#模型效率#技术经济#LLM
打开原文Paul Graham 在 X 上的推文:「尽管你按 token 支付 AI 费用,但这并不是推理的单位,因为随着模型改进,每个 token 能解决的复杂问题会越来越多。需要有人来定义这个单位,或许可以使用一系列难度逐渐增加的问题链,每一对问题都能被单一模型解决。」 / X
@paulg
尽管你按 token 支付 AI 费用,但这并不是推理的单位,因为随着模型改进,每个 token 能解决的复杂问题会越来越多。需要有人来定义这个单位,或许可以使用一系列难度逐渐增加的问题链,每一对问题都能被单一模型解决。
2026 年 9 月 15 日 下午 7:21
·
113.1K 次浏览
164
30
801
159