Aravind Srinivas(@AravSrinivas)

a few open source contributions from perplexity recently: •pplx-decider-v1-27b: SoTA multimodal dec...

8.5内容质量

TL;DR · AI 摘要

Perplexity开源了多个高性能AI模型和工具，包括多模态决策模型和本地推理引擎，性能优于现有方案。

核心要点

  • pplx-decider-v1-27b在11个基准测试中平均准确率达85.7%，超越Jev模型。
  • Lily推理引擎在M5 Max设备上实现1.23x预填充加速和1.35x解码加速。
  • PII-Tracer在5个公开基准中击败OpenAI隐私过滤器，支持13种语言的PII检测。

结构提纲

按章节快速跳转。

  1. §引言

    介绍Perplexity近期开源的多个AI项目及其技术亮点。

  2. ·多模态决策模型

    pplx-decider-v1-27b在11个基准中达到85.7%平均准确率。

  3. ·本地推理引擎

    Lily基于Rust和Metal内核，实现Apple芯片性能突破。

  4. ·隐私保护工具

    PII-Tracer在5个基准中超越OpenAI方案，支持多语言检测。

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • Perplexity开源项目
    • 多模态模型
      • pplx-decider-v1-27b
        • 11基准85.7%准确率
    • 推理引擎
      • Lily
        • Rust+Metal内核加速
    • 隐私工具
      • PII-Tracer
        • 超越OpenAI方案

金句 / Highlights

值得收藏与分享的关键句。

#AI模型#开源工具#Perplexity#基准测试
打开原文

Aravind Srinivas 在 X 上的推文："Perplexity 最近的一些开源贡献：•pplx-decider-v1-27b：当前最优的多模态决策模型。在 11 个基准测试中平均达到 85.7%，优于 Jev。•pplx-embed-v2-context-9b-preview：当前最优的上下文嵌入模型，在 ConTEB 和 turbopuffer 上下文基准测试中表现最佳。•Lily：适用于 Apple 芯片的本地推理引擎。基于 Rust 和自定义 Metal 内核，不依赖 PyTorch 或 MLX。在 M5 Max 上，预填充速度比 MLX-LM 快 1.23 倍，解码速度比 MLX-LM 快 1.35 倍。•PII-Tracer：设备端 0.6B 参数的 PII 分类器，决定混合计算任务是否保留在您的 Mac 上。在所有 5 个公开基准测试中均优于 OpenAI 的隐私过滤器。同时发布了 PII-TRACE 基准测试：包含 13 种语言的 13,000 次对话。•WANDR：用于宽深研究代理的基准测试。包含需要 170,000 条来源支持记录的 500 项任务。•Numbat：适用于笔记本电脑和工作站的代理检测和响应工具。包含 52 条规则，支持 macOS、Linux 和 Windows 的单文件 Go 二进制程序。•Bumblebee：开发机器的只读供应链扫描工具。涵盖软件包、MCP 配置以及编辑器和浏览器扩展。未来将发布更多开源贡献！"

Aravind Srinivas @AravSrinivas

Perplexity 最近的一些开源贡献： •pplx-decider-v1-27b：当前最优的多模态决策模型。在 11 个基准测试中平均达到 85.7%，优于 Jev。 •pplx-embed-v2-context-9b-preview：当前最优的上下文嵌入模型，在 ConTEB 和 turbopuffer 上下文基准测试中表现最佳。 •Lily：适用于 Apple 芯片的本地推理引擎。基于 Rust 和自定义 Metal 内核，不依赖 PyTorch 或 MLX。在 M5 Max 上，预填充速度比 MLX-LM 快 1.23 倍，解码速度比 MLX-LM 快 1.35 倍。 •PII-Tracer：设备端 0.6B 参数的 PII 分类器，决定混合计算任务是否保留在您的 Mac 上。在所有 5 个公开基准测试中均优于 OpenAI 的隐私过滤器。同时发布了 PII-TRACE 基准测试：包含 13 种语言的 13,000 次对话。 •WANDR：用于宽深研究代理的基准测试。包含需要 170,000 条来源支持记录的 500 项任务。 •Numbat：适用于笔记本电脑和工作站的代理检测和响应工具。包含 52 条规则，支持 macOS、Linux 和 Windows 的单文件 Go 二进制程序。 •Bumblebee：开发机器的只读供应链扫描工具。涵盖软件包、MCP 配置以及编辑器和浏览器扩展。未来将发布更多开源贡献！

2026年10月2日 下午8:29 · 41.2K 浏览量 32 30 475 152