Simon Willison's Weblog

Jev introduces a new shape of LLM - System One, aka Decision Models

8.5内容质量

TL;DR · AI 摘要

Jev是TypeSafe AI推出的新型决策模型，通过浮点数输出实现分类任务，成本低于GPT-5 Nano且支持搜索重排序等场景。

核心要点

  • Jev输出浮点数替代文本，适用于Yes/No、选择题和评分题三类决策场景
  • 输入成本0.042美元/百万token，比OpenAI GPT-5 Nano低16%
  • 可将BM25算法的100个候选结果送入Jev进行相关性评分重排序

结构提纲

按章节快速跳转。

  1. §引言

    介绍TypeSafe AI推出的新型决策模型Jev及其核心特性

  2. ·技术机制

    Jev通过浮点数输出替代传统文本生成，支持三类决策任务

  3. ›定价策略

    输入成本0.042美元/百万token，显著低于竞品模型

  4. ·应用场景

    适用于分类任务、标签建议、搜索重排序等工程场景

  5. ›黑箱问题

    回归黑箱模型特性引发可解释性担忧

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • Jev决策模型
    • 核心机制
      • 浮点数输出
      • 三类决策任务
    • 技术优势
      • 低成本输入定价
      • 并行处理能力
    • 应用场景
      • 分类任务
      • 搜索重排序

金句 / Highlights

值得收藏与分享的关键句。

#LLM#决策模型#TypeSafe AI#搜索重排序
打开原文

Jev 推出一种新型 LLM——系统一，又称决策模型

Simon Willison 的博客

订阅

#smallhead

由以下公司赞助：

Teleport

— 了解 13 名工程师在使用 LLM 对代码库进行“高压清洗”90 天后学到的经验。提示：在发现安全漏洞时，质量优于数量。

Jev 推出一种新型 LLM——系统一，又称决策模型

2026 年 9 月 21 日

上周，TypeSafe AI 发布了 Jev，这是他们新类别模型的第一个示例，他们称之为“系统一模型”（我赞同 Maggie Appleton 的观点，我认为“决策模型”是更合适的名称）。Jev 是一种有趣的 LLM 变体：它仍然接受文本输入，但不像通常的 LLM 那样返回文本输出，而是返回与类别、是/否问题、评分和相关置信度分数对应的浮点数。

TypeSafe 这样描述 Jev：

将 Jev 视为一种前沿智能函数调用：无结构状态输入，类型化概率决策输出。

它也非常快速且成本极低。常规 LLM 的定价基于输入和输出 token，输出通常收费显著更高。Jev 仅对输入收费——输出免费——其首个模型的输入价格为每百万个 token 0.042 美元，甚至比 OpenAI 的 GPT-5 Nano（每百万个 token 0.05 美元）更便宜。

Jev 允许你对文本或半结构化数据提出问题。你可以构建一个包含字符串、字符串数组或一组名称-值对的“状态”对象——这可能描述一篇文章、一个客户或任何其他类型的记录。然后，你可以将该状态对象与一个或多个问题一起发送到他们的 API，并为每个问题得到回复。

你可以提出三种类型的问题：

  • 是/否问题，Jev 称之为“Noul”问题——他们的 CEO 在 Hacker News 上确认，这是“伯努利”（Bernoulli）的缩写，来自伯努利分布。你提出一个陈述，模型会返回一个 0 到 1 之间的浮点数，表示该陈述为真的置信度。
  • 选择问题，模型从一组提供的选项中选择一个——实际上是一个置信度分数加上所有选项的概率分布。
  • 评分问题，你提供一个带有描述的数字等级序列，模型会在该范围内返回一个浮点数评分。

Jev API 可以接受单个文档（“状态”）以及你能在上下文窗口中塞入的尽可能多的问题。问题会并行评估，因此发送多个问题所花的时间应与发送一个问题的时间相近。

我认为“决策模型”的框架有助于理解 Jev 的使用场景。它非常适合任何可以表示为分类任务的场景——例如垃圾邮件检测、建议标签、优先级排序和排名。

我也在尝试将其用于搜索重排序，其中使用 BM25 等低成本算法获取 100 个可能的匹配项，然后让 Jev 根据原始查询对这 100 个候选项的相关性进行评分。

#### 黑箱模型重新流行起来

我发现 Jev 有一点令人不安的地方，就是它非常彻底地回归到了黑箱机器学习系统。

LLM 本身已经是黑箱了——你可以要求它们解释决策，但你无法保证它们所说的有用或准确。

Jev 甚至没有给你这个机会：输入任意文本，你唯一能获得的只是浮点数。如果 Jev 将某内容标记为垃圾邮件，是什么内容信号让它做出这个判断的？

这同时也意味着对偏见的担忧应成为关注的焦点。我真心希望没有人会用Jev来对求职者进行排名——那个浮点数可能会掩盖模型中隐藏的各种未被察觉的偏见，而通过实验来拆解这些偏见将是一项极具挑战性的工作。

（我曾做过一个实验，让Jev对旧金山湾区的所有城市就“是否是好城市？”这一问题进行评分，结果将库比蒂诺评为最高分，而东帕洛阿尔托评为最低分。真有意思。）

实际上，这意味着对于Jev来说，评估和结构化实验的重要性甚至超过了常规大语言模型项目。幸运的是，Jev的运行成本极低，即使要处理数百甚至数千个实验提示，也只需花费几美分。

#### Jev的非常规用途

过去几天里，看到更广泛的社区为Jev构思出各种潜在应用场景，这个过程非常有趣。以下是一些引起我注意的创意用法：

  • Kyle Pena开发的jevchat将Jev变成了一个（效果很差的）聊天模型。"每一步它都会问Jev一个问题：根据用户的提问和当前已生成的回复，下一个符号应该是什么？" Hacker News上的ericpruitt评论道："这相当于莫蒂与死亡水晶进行数字对话。"
  • Fatih Kadir Akın开发的jev-leftpad通过提示"需要多少个空格才能使值达到目标长度？"并结合一个从"不需要空格"到"需要10个空格"的选项查询，实现了left-pad功能。
  • Andy Gayton开发的jev-2048使用Jev来玩2048滑块游戏。

#### 开源权重模型复现

还有一系列项目试图基于开源权重模型构建类似Jev的模型。Kev就是一个有趣的案例，它使用通义千问3.5生成了0.8B、4B和9B参数规模的模型。在相关的Hacker News讨论帖中，有人链接了一个名为JevBench的基准测试，该测试已用于比较"Jev类决策模型"。

考虑到Jev仅在一周前发布，围绕它的活动量令人印象深刻。

发布于晚上11:09 · 关注我

Mastodon

,

Bluesky

Twitter

或

订阅我的电子报

更近的文章

  • 使用GPT-6 Astra和ChatGPT Work生成跑步路线 - 2026年9月12日
  • OpenAI代理在5月份攻击了RubyGems - 2026年9月12日

#primary

这是Jev介绍了大语言模型的新形态——系统一，即决策模型，由Simon Willison于2026年9月21日发布。

ai

2,244

generative-ai

1,990

llms

1,956

上一篇：使用GPT-6 Astra和ChatGPT Work生成跑步路线

月度简报

每月赞助10美元，即可获得精选的本月最重要的大语言模型发展摘要邮件。

支付我以发送更少的邮件！

赞助并订阅

#secondary

#wrapper

  • 披露信息
  • 制作信息
  • ©
  • 2002
  • 2003
  • 2004
  • 2005
  • 2006
  • 2007
  • 2008
  • 2009
  • 2010
  • 2011
  • 2012
  • 2013
  • 2014
  • 2015
  • 2016
  • 2017
  • 2018
  • 2019
  • 2020
  • 2021
  • 2022
  • 2023
  • 2024
  • 2025
  • 2026