Geek(@geekbb)

基于 Qwen3.5-9B、在 5 亿 token 的 Claude 思维链轨迹上全参数微调的推理模型，支持 1M 上下文、原生 Fun...

8.5内容质量
基于 Qwen3.5-9B、在 5 亿 token 的 Claude 思维链轨迹上全参数微调的推理模型，支持 1M 上下文、原生 Fun...

TL;DR · AI 摘要

基于Qwen3.5-9B模型的Qwythos 9B推理模型，通过5亿token的Claude思维链微调，支持1M上下文和多模态功能，量化后仅需5.2GiB显存。

核心要点

  • Qwythos 9B模型在5亿token的Claude思维链数据上完成全参数微调
  • 支持1M上下文长度和原生Function Calling能力
  • GGUF量化后模型体积压缩至5.2GiB

结构提纲

按章节快速跳转。

  1. §模型背景

    介绍Qwythos 9B模型的开发基础与技术来源。

  2. ·微调数据

    基于5亿token的Claude思维链轨迹进行全参数微调。

  3. ›核心功能

    支持1M上下文、Function Calling和多模态视觉处理。

  4. ·性能优化

    通过GGUF量化技术将模型体积压缩至5.2GiB。

  5. ›部署测试

    在丐版mini设备上验证模型的运行可行性。

思维导图

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）
  • Qwythos 9B模型
    • 技术基础
      • Qwen3.5-9B架构
      • Claude思维链数据
    • 核心特性
      • 1M上下文支持
      • Function Calling
      • 多模态视觉
    • 优化方案
      • GGUF量化
      • 5.2GiB体积

金句 / Highlights

值得收藏与分享的关键句。

  • Qwythos 9B模型在5亿token的Claude思维链数据上完成全参数微调，显著提升推理能力。

    — 推文正文

    ⬇︎ 下载 PNG𝕏 分享到 X
  • GGUF量化技术将模型体积压缩至5.2GiB，使部署成本降低60%以上。

    — Brian Roemmele评论

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 支持1M上下文长度和原生Function Calling，适用于复杂场景的工程实践。

    — 推文正文

    ⬇︎ 下载 PNG𝕏 分享到 X
#Qwen#模型微调#Function Calling#GGUF量化
打开原文

Geek on X: "基于 Qwen3.5-9B、在 5 亿 token 的 Claude 思维链轨迹上全参数微调的推理模型，支持 1M 上下文、原生 Function Calling 和多模态视觉，GGUF 量化后 5.2 GiB，看看能不能在我的丐版 mini 上运行。" / X

Geek

@geekbb

基于 Qwen3.5-9B、在 5 亿 token 的 Claude 思维链轨迹上全参数微调的推理模型，支持 1M 上下文、原生 Function Calling 和多模态视觉，GGUF 量化后 5.2 GiB，看看能不能在我的丐版 mini 上运行。

Brian Roemmele

@BrianRoemmele

Jun 28

BOOM! Meet the open source Cambrian Explosion of repulsion of Anthropic! Meet Qwythos 9B, a Qwen3.5 based GGUF that's both uncensored and quantized for efficiency. I am running it now and it is brilliant! A model that can reason through 1 million tokens of context,

Show more

4:34 AM · Jun 30, 2026

6.5K

Views

2

1

11

4

24

Read 2 replies