Latent Space

The Jev Revolution: What Engineers Are Already Building with System One Models

8.5内容质量
The Jev Revolution: What Engineers Are Already Building with System One Models

TL;DR · AI 摘要

System One模型如Jev正被工程师用于构建可靠且高效的自动化系统,挑战传统LLM的不可靠性。

核心要点

  • Jev模型通过结构化输出实现95%可靠性,优于LLM的随机性输出
  • 代码集成是System One模型落地的关键,可提升软件智能化程度
  • Glean应用Jev实现零样本灵活性,减少模型重复微调需求

结构提纲

按章节快速跳转。

  1. 介绍System One模型在AI工程领域的革命性影响

  2. ·Jev模型特性

    阐述Jev作为可靠智能体的核心优势与技术原理

  3. 解析如何将System One模型嵌入应用代码实现智能增强

  4. 展示Glean在生产环境中使用Jev的零样本灵活性实践

  5. 对比LLM的不可预测性与System One模型的确定性输出

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • System One模型与自动化
    • Jev模型特性
      • 结构化输出
      • 可靠性保障
    • 工程实践
      • 代码集成方法
      • 零样本应用
    • 行业影响
      • 挑战LLM不可靠性
      • 推动智能自动化

金句 / Highlights

值得收藏与分享的关键句。

#AI工程#System One模型#自动化#Jev
打开原文

Jev 革命:工程师正在用系统一模型构建什么 —— 潜在空间

今天在 AI 工程师代码峰会上,主要主题是系统一模型 —— 非生成式模型,它们返回结构化选择、评分或概率。它们通常比推理大语言模型(即系统二模型)快得多且成本更低。

谁比 TypeSafe AI 共创人兼首席执行官 Diogo Almeida 更适合为系统一模型发出鼓舞人心的号召?Almeida 是 Jev 的首席创造者,而 Jev 是不到两个月前开启这一趋势的产品。

Jev 在 9 月发布时立即引起了 AI 工程师的轰动。在与潜在空间的播客访谈中(该访谈迅速成为我们年度最受欢迎的节目),Almeida 解释了将大语言模型作为软件核心的主要问题:可靠性。

在今天 AIE Code 的主题演讲中,他进一步指出 Jev 是一种“可靠智能”,应该用于“自动化一切”。

将系统一模型集成到代码中

对 AI 工程师特别感兴趣的是 Almeida 的观点,即系统一模型应与代码集成。正如他在主题演讲中所说:“代码是自动化的语言,因此你需要与代码集成。”

潜在空间创始人 swyx 将此解读为一种呼吁:“在应用代码内部广泛使用‘系统一’模型调用,以创建更智能的软件,而不是越来越复杂的‘拼接字符串并寄希望于最好’的 AI 工程。”

“智能软件”这一术语在 Almeida 的演讲中被反复使用。这个词听起来像是微软或 IBM 在 Web 2.0 时代使用的术语,但在人工智能时代,它确实反映了大语言模型驱动软件的残酷现实:有时它们并不聪明。在演讲中,Almeida 幽默地说道:“你有 95% 的时间会得到爱因斯坦,但 5% 的时间会得到憨豆先生。”

“如果你都无法分辨是哪一种,那你凭什么去自动化任何事情?”他补充道。

Almeida 最后激情呼吁“自动化一切”。像一个服用了 AI 药物、染着粉红色头发的史蒂夫·乔布斯,他向“梦想家”和“不愿被过去一切限制的人”发出号召,承诺 TypeSafe AI 将“真正为你而战,并让这一切像第四个逻辑门一样可靠。”

Glean 如何使用 Jev

在 Almeida 之后登台的 Chinmay Goyal 从 Glean 公司展示了 Jev 的更实际用法。他解释说,Glean 在使用大语言模型和其他分类器时也会使用系统一模型,而 Jev 特别适合“零样本灵活性”。

“当决策空间的分类法发生变化时,我们不需要反复微调这些模型,”他说。

赞助

您的赞助广告位置在此

接触正在构建未来的技术的 AI 工程师。

潜在空间被那些部署代理、模型和基础设施的人阅读。咨询赞助此位置。

[email protected] →

在演讲后的简短采访中,Goyal 告诉潜在空间,他们的客户实际上并不需要知道他们使用的是哪种模型。

“Jev 驱动了大量流程[但]用户只需要一个能正常工作的产品;这是我们构建任何东西时的唯一目标。因此,我们希望隐藏所有复杂性,无论是使用 Jev 还是使用完整的大语言模型。”

在演讲的最后,Goyal总结了使用Jev的一些原则:

Jev的模式与原型

接下来在AIE Code上台的是UiPath(一个业务编排和自动化平台)的Chibi Vikram和Kevin Bernstein。他们展示了一个测试Jev对文档片段进行排序的案例。他们设计了一个“锦标赛”,Jev从小组中挑选出最相关的片段,胜出者晋级下一轮,依此类推。即使进行了数千次Jev调用,整个过程也仅耗时不到一秒。

Vikram谈到这一实验和其他测试时指出:“我们意识到Jev是一个可以调整的构建模块,我们需要找到能够应用这个模块的新策略。它单独看起来可能不够智能,但结合这些策略和模式,我们能够实现更高级的智能——即使使用当前的Jev模型也是如此。”

Workday的首席工程师Scott Roberts在AIE Code的“系统一”环节结束时,分享了他团队使用Jev进行的一些原型测试。

其中一个案例中,用户在输入请假信息时,界面已经开始自动填充请假单。这生动展示了Almeida提出的观点:快速模型调用可以改变软件本身的行为。Roberts将其描述为“从预测用户想说什么,到预测用户想做什么”的转变。

类似早期互联网的探索

今天“系统一”演讲给我最大的启发是,像Jev这样的模型可以为软件开发开辟令人意想不到的新路径。我旁边坐着一位来自某公司的AI部门负责人,他告诉我,他在业余时间使用Jev搭建了一个网站,用于对幻想足球新闻进行分类和排序。

但最终的总结权属于Almeida,他将“系统一”模型带来的新机遇类比为早期互联网的探索精神。

“我认为软件功能将迎来爆炸式增长,我们会希望人们去探索软件的边界。这并非一定因为其价值,而是因为他们可以这么做,因为我们有了新的探索疆域——这正是早期互联网的特征。”