T
traeai
Sign in

概念

模型蒸馏

别名:knowledge distillation

将大模型知识转移到小模型的技术

已跟踪 6 条高相关材料

TraeAI 观察

相关材料

已收录 6 条与 模型蒸馏 相关的内容,按评分排序。

China just dropped a new frontier model... and nobody can explain how

China just dropped a new frontier model... and nobody can explain how

Fireship1730 字 (约 7 分钟)
85

Moonshot AI发布3万亿参数开源模型Kimmy K3.1,引发关于模型蒸馏攻击与行业竞争的技术争议。

入选理由:Kimmy K3.1参数量达3万亿,11月4日开放下载

FeaturedVideo#AI模型#模型蒸馏#Moonshot AI#Anthropic#OpenAI中英混合
Recommended paper integrating decision models like Jev into harnesses.

Recommended paper integrating decision models like Jev into harnesses.

elvis(@omarsar0)90 字 (约 1 分钟)
85

论文通过蒸馏技术将4B参数决策模型整合到JevAgentHarness中,在保持性能优势的同时降低运行成本。

入选理由:蒸馏后的4B模型在代理内部表现优于原始Jev模型

FeaturedTweet#AI模型蒸馏#决策系统#DAIR.AI#代理框架英文
🎵 Wave of distillation 🎵

US labs say Chinese labs distill their models. And Europe's new “sovereign model” is fine-tuned on data generated by… GLM and Qwen.

欧洲新推出的主权模型Kolibri基于GLM和Qwen生成的数据进行微调,参数量达78B。

入选理由:Kolibri模型拥有78B参数和1M上下文长度,采用Apache 2.0许可证

FeaturedTweet#模型蒸馏#主权模型#GLM#Qwen#Aleph Alpha中英混合

跨材料问答 · 模型蒸馏

回答基于:模型蒸馏 相关 6 条材料
    0 / 500

    AI may generate inaccurate information. Please verify important content.