Suhail(@Suhail)

This will happen to Inference

6.5内容质量
This will happen to Inference

TL;DR · AI 摘要

推理成本将像照明成本一样呈指数级下降,但可能因Jevons悖论导致总计算需求上升。

核心要点

  • 推理成本每年下降约30倍,类似照明成本下降1000倍的历史趋势
  • Jevons悖论可能导致总计算需求反而增加
  • 1300年城堡照明成本类比质疑当前推理成本图表的合理性

结构提纲

按章节快速跳转。

  1. 推理成本下降趋势将重演照明成本下降的历史模式

  2. 照明成本下降1000倍,推理成本年降30倍

  3. 成本降低可能引发总计算需求上升

  4. 1300年城堡照明成本与现代推理成本对比

  5. 有人质疑当前推理成本图表的合理性

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 推理成本下降趋势
    • 历史类比
      • 照明成本下降1000倍
    • 技术经济规律
      • Jevons悖论:成本降低→需求增加
    • 争议点
      • 1300年城堡照明成本类比

金句 / Highlights

值得收藏与分享的关键句。

#AI推理#成本趋势#Jevons悖论#技术经济
打开原文

[](https://x.com/)

Suhail on X: "This will happen to Inference"

This will happen to Inference

Image 2: @paulg
Image 2: @paulg

One data point in technology making everyone richer: the cost of lighting has decreased by over 1000x. ![Image 3](https://x.com/paulg/status/2099477455585063009/photo/1)

  • ![Image 4: @paulg](https://x.com/paulg) It has been happening to inference. The cost of using a given model decreases by something like 30x a year.
  • ![Image 5: @SvenUrbanSci](https://x.com/SvenUrbanSci) I agree, inference deflation is real, but Jevons paradox likely applies: cheaper inference increases usage so much that total compute demand rises. Lighting saw the same effect.
  • ![Image 6: @ThatChrisRyan](https://x.com/ThatChrisRyan) Nobody paid 30,000 pounds to light their castle in 1300. This graph is idiodic.