概念

GGUF

Q: GGUF 最近有什么新动态？

traeai 已收录 1 篇与 GGUF 相关的内容。最新一篇是「New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...」，由 Google AI Developers(@googleaidevs) 发布。

别名：Gemma Generalized Unified Format

Google 开发的高效模型存储格式，支持 Q4_0。

已跟踪 1 条高相关材料

TraeAI 观察

如果只读 3 篇

New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models loc...

Google AI Developers(@googleaidevs) · 7.2 分

Google 发布了 Gemma 4 的 QAT 检查点，支持在消费级 GPU 和移动设备上以 Q4_0 GGUF 格式运行，内存占用低于 1GB，保持高质量推理。

New @GoogleGemma 4 QAT (Quantization-Aware Training) checkpoints are here, so you can run models locally on consumer GPUs and mobile devices with minimal quality loss.

Google AI Developers(@googleaidevs)Today159 字 (约 1 分钟)

Google releases Gemma 4 QAT checkpoints, enabling local inference on consumer GPUs and mobile devices with Q4_0 GGUF format, keeping memory below 1GB while preserving high inference quality.

入选理由：Gemma 4 QAT 检查点采用 Q4_0 GGUF 格式，兼容所有尺寸模型，提升本地推理性能。

FeaturedTweet#Gemma#QAT#GGUF#mobile inference#quantization中文

跨材料问答 · GGUF

回答基于：GGUF 相关 1 条材料