概念

MIX-STQ1_0

Q: 什么是 MIX-STQ1_0？

动态位宽分配的模型压缩方法

Q: MIX-STQ1_0 最近有什么新动态？

traeai 已收录 1 篇与 MIX-STQ1_0 相关的内容。最新一篇是「We compressed Hy4-preview from 1.5TB to ～200GiB GGUF and it still works well ! Meet MIX-STQ1_0.The...」，由 Hunyuan(@TXhunyuan) 发布。

别名：混合量化

动态位宽分配的模型压缩方法

已跟踪 1 条高相关材料

TraeAI 观察

如果只读 3 篇

We compressed Hy4-preview from 1.5TB to ～200GiB GGUF and it still works well ! Meet MIX-STQ1_0.The...

Hunyuan(@TXhunyuan) · 8.5 分

腾讯团队通过MIX-STQ1_0方法将Hy4-preview模型压缩至200GiB，保持高性能且误差变化小。

We compressed Hy4-preview from 1.5TB to ～200GiB GGUF and it still works well ! Meet MIX-STQ1_0.The...

Hunyuan(@TXhunyuan)Yesterday234 字 (约 1 分钟)

腾讯团队通过MIX-STQ1_0方法将Hy4-preview模型压缩至200GiB，保持高性能且误差变化小。

入选理由：使用MIX-STQ1_0量化方法可将1.5TB模型压缩至200GiB

FeaturedTweet#模型压缩#量化#LLM#腾讯#GGUF中英混合

跨材料问答 · MIX-STQ1_0

回答基于：MIX-STQ1_0 相关 1 条材料