Mistral Large 4 is live in Otari

Mistral Large 4 已在 Otari 上线

产品发布

Mistral Large 4 从第一天起就在 Otari 上线。只需更改一行字符串即可路由到 Mistral 的 1 万亿参数专家混合模型，同时保留您在 Otari（Mozilla AI 的开源网关和策略层）中已运行的策略、追踪和成本跟踪功能。

#### Mus Himdi

2026 年 10 月 8 日

—

4 分钟阅读

Mistral 目前最大的模型从第一天起就通过 Otari 与 Mistral 模型家族的其他模型一同上线。如果您已经通过 Otari 路由流量，只需更改一个模型字符串，即可继承您在 Otari 中已有的策略、追踪和成本跟踪功能。

Mistral 已发布 Mistral Large 4，其内部称为 Le Chonk。这是一个拥有 10500 亿参数的原生多模态专家混合模型，今天已在 Otari（Mozilla AI 的开源网关和策略层）上线。

这意味着您无需新的 SDK、新的凭证或新的治理设置，即可将其部署到实际工作负载中。本文其余部分将介绍该模型的特性、将模型添加到生产堆栈时会发生哪些变化，以及 Otari 如何处理这些变化。

认识 Le Chonk

Mistral Large 4 每个 token 激活其 1.05 万亿参数中的 490 亿参数，因此您可以用接近中型密集模型的推理成本，获得万亿参数模型的处理能力。

在 Mistral 发布的评估中，Large 4 在综合基准测试中领先于其他美国和欧洲的开源权重模型。Mistral 还报告称，该模型在网络安全、金融和制造等企业工作负载的开源模型中取得了最先进的成果，并在编码和智能体性能方面表现出色。

多模态功能是最引人注目的部分。Mistral 指向复杂文档、工程图纸和卫星图像，模型能够检查所看到的内容，对其进行推理，并在智能体工作流中采取行动。

它还具有鲜明的欧洲特色。Mistral 在欧洲构建该模型及其背后的基础设施，这是其推动开放、主权人工智能基础设施更广泛努力的一部分。

这些是供应商基准，因此请将其视为起点。真正重要的数字是您在自己的流量上测量的数字，这也是 Otari 的作用所在。

新模型不应意味着新堆栈

每次前沿发布都会扩大您的选择范围。在生产环境中，它也会带来工作量。添加一个提供商通常意味着另一个 SDK、另一组 API 密钥、不同的速率限制和响应格式，以及另一张发票。对于智能体来说，成本更高：模型切换可能会改变智能体使用的工具及其行为方式，而与一个提供商平台相关的任何防护措施都不会转移到下一个平台。

今天最适合某个工作负载的模型，可能在六个月后就不再是最优选择。成本变化、能力转移，以及开源权重模型持续缩小差距。大多数团队没有模型问题，他们有基础设施问题。

Otari 如何处理

Otari 位于您的应用程序和智能体与它们调用的模型和工具之间的连接点。由于路由、策略和可观测性都位于这一层，新模型可以无缝集成到您已有的所有功能中。

连接：您可以通过以下三个步骤在 otari.ai（托管的 Otari 平台）上尝试 Mistral Large 4：

• 在 otari.ai 注册并创建 API 令牌。
• 安装 Otari Python SDK：pip install otari
• 将您的令牌设置为 OTARI_API_KEY 并调用模型：

模型通过提供者：模型选择器进行管理，因此在 Mistral Large 4 与其他模型之间切换只需更改一个字符串。已经在使用 OpenAI SDK？保留现有代码并设置 base_url="https://api.otari.ai/api/v1" 即可。

提供者密钥在 Otari 中集中管理，而非分散在各个服务中。可在 Otari 中并行运行 Large 4、其他 Mistral 模型及所有其他提供者，网关会自动处理智能路由和提供者故障转移。

治理：策略直接在 Otari 中定义，而非依赖提供者控制台。您在将流量路由至 Large 4 的瞬间，策略即刻生效。Otari 连接代理钩子（即代理即将处理提示或执行工具的节点），并执行两类检查：

• 确定性检查：通过记录的证据验证明确规则。是否编辑了受保护文件？是否尝试了禁止命令？最新更改后是否通过了必要测试？
• LLM 作为法官的检查：评估需要判断的工作。更改是否符合您的架构？是否满足验收标准？

代理在团队定义的边界内自主运行，无需人工逐项审批。

全面掌控：模型调用、代理操作和策略决策统一记录在单一历史中，包含追踪信息、时间戳和每请求成本。通过对比 Large 4 与当前模型在延迟、成本和策略结果上的表现（使用您已信任的数据），您可以验证 Mistral 的声明是否符合您的实际工作负载。

Otari 是开源且与提供者无关的。采用新模型时，您的基础设施不会被绑定到单一供应商。

立即开始

Mistral Large 4 和完整的 Mistral 模型家族现已在 Otari 上线。您可从开源仓库部署 Otari 或使用托管平台，然后将现有集成指向新模型。

在 Mozilla AI，我们认为 AI 应该增加选择权，而非减少。我们不会告诉您该选择哪个模型。我们正在构建的基础设施，让您能够按照自己的条件自由选择、切换和管理模型。

掌控您的大语言模型基础设施。治理自主代理。了解 Otari → otari.ai