T
traeai
登录

产品

Unsloth

提供量化模型的AI工具

已跟踪 3 条高相关材料

TraeAI 观察

相关材料

已收录 3 条与 Unsloth 相关的内容,按评分排序。

Gemma 4 12B: The Developer Guide

Gemma 4 12B:开发者指南

Google Developers Blog1171 字 (约 5 分钟)
92

Gemma 4 12B采用无编码器多模态架构,可在16GB显存设备上本地运行并原生支持音频输入。该模型通过移除独立视觉与音频编码器显著降低延迟,配合专用MTP模型提升推理速度,是首个支持macOS桌面端全离线交互的中型多模态模型。

入选理由:Gemma 4 12B移除独立编码器,视觉仅用35M参数嵌入层,音频直接线性投影至LLM输入空间

精选文章#Gemma 4#多模态大模型#无编码器架构#本地AI#Google英文
Qwen3.8-Flash-Next

Qwen3.8-Flash-Next

Simon Willison's Weblog297 字 (约 2 分钟)
85

Qwen3.8-Flash-Next是通义千问推出的多模态MoE模型,具有125B参数和显著性能提升。

入选理由:Qwen3.8-Flash-Next采用多模态MoE架构,是Qwen4的早期预览版本

精选文章#AI#LLM#模型架构#量化技术中英混合
Google DeepMind Blog 图标

DiffusionGemma: 4x faster text generation

Google DeepMind Blog1006 字 (约 5 分钟)
85

DiffusionGemma 模型通过并行生成文本块,实现高达 4 倍的文本生成速度,适用于需要高速处理的本地交互场景。

入选理由:DiffusionGemma 在 NVIDIA H100 上每秒生成 1000+ tokens,速度比传统模型快 4 倍。

精选文章#DiffusionGemma#文本生成#AI模型#Google DeepMind英文

跨材料问答 · Unsloth

回答基于:Unsloth 相关 3 条材料
    0 / 500

    AI 可能会生成不准确的信息,请核实重要内容