Nemotron 3.5 Lightning now available on AI Gateway for free

Nemotron 3.5 Lightning 现已通过 AI Gateway 免费提供 - Vercel

NVIDIA 的 Nemotron 3.5 Lightning 模型现已通过 AI Gateway 免费提供，模型名称为 nvidia/nemotron-3.5-lightning-free，由 NVIDIA 提供服务。

Nemotron 3.5 Lightning 是一个开源权重的推理和聊天模型，适用于长期运行的代理程序、子代理工作、聊天机器人和 RAG 系统。该模型拥有 300 亿个参数，每个 token 激活 30 亿个参数，采用混合专家（MoE）架构，结合了 Mamba-2 和 MoE 层，以及少量的注意力层。它支持 100 万个 token 的上下文窗口，并支持工具调用和结构化输出。

注意：提供商可能会保留提示信息以改进模型。

可通过 AI SDK、Chat Completions、Responses 和 Messages API，或连接到 AI Gateway 的编码代理来调用 Nemotron 3.5 Lightning。

使用 nvidia/nemotron-3.5-lightning-free 作为模型名称：

API

Claude Code

fx

Chat Completions

1
import
{
streamText
}
from
'ai'
;
2
3
const
result
=
streamText
(
{
4
model
:
'nvidia/nemotron-3.5-lightning-free'
,
5
prompt
:
'Write a TypeScript function that retries a failed fetch with exponential backoff.'
,
6
}
)
;

复制给代理使用

查看模型详情

↗

要在 Claude Code、Codex、Cursor 等工具中使用，安装最新版 Vercel CLI 并运行设置：

npx vercel ai-gateway setup

然后在代理中选择 nvidia/nemotron-3.5-lightning-free。详细信息请参阅编码代理指南。

AI Gateway 提供统一的 API 接口用于调用模型、跟踪使用情况和成本，并配置重试、故障转移和性能优化，以实现高于提供商的正常运行时间。它包含内置的自定义报告功能、API 密钥预算、路由规则等。

AI Gateway 反映提供商定价，不加价，并且不对推理收取平台费用，包括 Bring Your Own Key（BYOK）请求。

您可以查看 AI Gateway 上所有可用的语言模型。