ollama(@ollama)

Gemma 4 is now nearly 90% faster on Apple Silicon with Ollama using MLX! The speedup comes from imp...

6.2内容质量
Gemma 4 is now nearly 90% faster on Apple Silicon with Ollama using MLX!

The speedup comes from imp...

TL;DR · AI 摘要

ollama on X: "Gemma 4 is now nearly 90% faster on Apple Silicon with Ollama using MLX! The speedup comes from improved m...

核心要点

  • 主题聚焦:Gemma 4 is now nearly 90% faster on Apple Silico
  • 来源:ollama(@ollama),建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#技术#内容
打开原文

ollama on X: "使用 MLX 的 Ollama 使 Gemma 4 在 Apple Silicon 上的速度提升近 90%!速度提升源于改进的多标记预测(MTP),该功能现已默认启用,未来将有更多模型支持。Ollama 会根据运行情况自动调整生成的标记数量,因此即使推测不再带来加速,也不会影响生成速度。https://t.co/pkSXj68638" / X

ollama

@ollama

使用 MLX 的 Ollama 使 Gemma 4 在 Apple Silicon 上的速度提升近 90%!速度提升源于改进的多标记预测(MTP),该功能现已默认启用,未来将有更多模型支持。Ollama 会根据运行情况自动调整生成的标记数量,因此即使推测不再带来加速,也不会影响生成速度。

12:54 AM · Jul 1, 2026

127.7K

浏览量

3

7

37

1

6

176

2

.

K

2.2K

8

9

819

阅读37条回复