The JetBrains Blog

Junie Local Comes to the NVIDIA RTX Spark

6.9内容质量
Junie Local Comes to the NVIDIA RTX Spark

TL;DR · AI 摘要

Junie Local on NVIDIA RTX Spark: Free Local AI Coding Junie Learn more Agentic AI Coding JetBrains AI New Products Junie...

核心要点

  • 主题聚焦:Junie Local Comes to the NVIDIA RTX Spark
  • 来源:The JetBrains Blog,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#产品
打开原文

Junie Local 在 NVIDIA RTX Spark 上:免费本地 AI 编程

Junie

了解更多

智能体 AI

编程

JetBrains AI

新产品

Junie Local 登陆 NVIDIA RTX Spark

Vladimir Sotnikov

Dmitry Savelev

Junie Local 从第一天起就支持 NVIDIA RTX Spark,Windows 支持也从实验性升级为稳定版本。

Junie Local 与 LLM 训练并行运行在同款 RTX Spark 笔记本电脑上

NVIDIA 的 RTX Spark 平台将 Blackwell RTX GPU 与 Grace CPU 配对,使大型本地 AI 模型能够在轻薄笔记本和紧凑型台式机中运行。Junie Local 借助该硬件,将本地 AI 编程带入您的日常工作流程。

安装 Junie 并运行 /local,您将在 RTX Spark 上获得完整的编程智能体。它可以阅读您的代码、编辑文件并运行测试。无需支付令牌费用,没有配额限制,您的代码也不会离开设备。

感谢 NVIDIA 提前提供 RTX Spark 的访问权限,并与我们合作使 Junie Local 准备就绪。

RTX Spark 对 Junie Local 的影响

在 RTX Spark 上的测试中,Junie Local 的生成速度达到每秒 55 个令牌。这是该平台的初始性能基准,进一步的推理优化正在开发中。

将 Junie Local 带到 RTX Spark 上意味着需要对设置和推理进行硬件适配。Junie Local 会根据您配置中 GPU 可用的内存自动调整上下文窗口大小。内存更多时,它可以保留更多代码、工具输出和对话历史记录。

在推理方面,Junie Local 使用 Blackwell 的 Tensor Cores 进行高效的 FP8 计算,帮助它更快处理上下文。它还使用推测解码技术通过提前生成多个令牌并一起验证来加速生成。

Junie Local 现在在 Windows 上稳定运行

我们在 8 月推出 Junie Local 时,需要配备 64 GB 内存的 M5 Mac。当时我们表示,降低这一门槛是我们关注的重点,并正在研究如何使其在 24 GB 显存的显卡上运行。

9 月,我们发布了支持 24 GB VRAM 的 NVIDIA RTX 显卡的实验性 Windows 支持。今天,这项支持已趋于稳定。如果您拥有 Ampere 或更新的 24 GB RTX 显卡(如 RTX 3090、4090 或 32 GB 5090),现在可以运行 Junie Local。

自 9 月预览版以来,我们重新构建了安装程序和本地引擎。Junie Local 现在已准备好在以下设备上进行日常使用:

  • 运行 Windows on Arm 的 NVIDIA RTX Spark 电脑
  • 配备 NVIDIA RTX 显卡且至少拥有 24 GB VRAM 的 Windows 电脑,运行 x64 Windows

主要变化:

  • 简化设置。安装程序会识别您的电脑,检查 GPU 和驱动程序,并安装优化后的推理引擎、模型和 Junie 集成。
  • 为您的 GPU 优化上下文大小。Junie Local 会根据您的 GPU 内存选择最大的上下文窗口。
  • 自主选择模型。您可以选择 Qwen3.6-27B 或 Qwen3.8-3.6-27B-blend(我们的合并模型)。后者保留了 Qwen3.8 的编程能力和 Qwen3.6 的较短推理能力。更多模型的支持即将推出。
  • 日常使用更可靠。本地引擎可以无干扰地启动、停止和更新,长时间编程会话表现更稳定。

要求

PC

所需条件

NVIDIA RTX Spark

Windows 11(Arm架构),GPU 至少有 24 GB 可用内存

配备 NVIDIA RTX 显卡的 Windows 电脑

Windows 11(x64架构)和至少拥有 24 GB VRAM 的 NVIDIA RTX 显卡

你还需要安装 NVIDIA 驱动程序 581 或更高版本,并准备约 20 GB 的可用磁盘空间来支持模型。

入门

在 PowerShell 中运行:

code
powershell -NoProfile -ExecutionPolicy Bypass -Command "[Environment]::SetEnvironmentVariable('JUNIE_LOCAL_MODEL', '1', 'Process'); iex (irm 'https://junie.jetbrains.com/install.ps1')"

然后启动 Junie,运行 /model 命令并选择一个模型。Junie 会下载所需内容,启动本地引擎,并切换你的会话。

下一步计划

我们正在努力为你提供更多本地模型选择,并优化它们与 Junie 的协同编码体验。这包括提升编码性能,同时减少完成任务所需的时间和内存消耗。

针对 RTX Spark,我们正在探索更高效的模型格式,并改进推测解码技术以更充分地利用 GPU 的计算能力。这些改进应用于 Junie Local 后,我们将分享基准测试结果和相关发现。

立即体验

Junie Local 完全免费。无需注册、无需订阅、无需积分、无需信用卡。在支持的硬件上尝试使用,告诉我们哪些功能有效、哪些需要改进,以及你希望看到的未来功能。

[立即体验 Junie Local →](#)

Junie

本地 AI

新闻

发布

  • 分享
  • Facebook
  • Twitter
  • LinkedIn

上一篇

让本地 AI 更智能更快捷