T
traeai
Sign in

模型

DFlash

并行解码技术的先驱方案

已跟踪 4 条高相关材料

TraeAI 观察

相关材料

已收录 4 条与 DFlash 相关的内容,按评分排序。

Hugging Face Blog 图标

Up to 3.2x Faster Inference with LFM2.5-DSpark

Hugging Face Blog1431 字 (约 6 分钟)
85

Hugging Face 推出 LFM2.5-DSpark 模型,推理速度提升最高达 3.2 倍,通过轻量级草案模型和并行解码机制实现。

入选理由:DSpark 使 LFM2.5-8B-A1B 模型在 GPU 上推理速度提升 3.18 倍

FeaturedArticle#DSpark#LLM推理优化#Hugging Face#模型压缩英文
Fast, On Device Agentic AI with Muse Glimmer on ExecuTorch

Fast, On Device Agentic AI with Muse Glimmer on ExecuTorch

PyTorch Blog1296 字 (约 6 分钟)
85

Meta推出Muse Glimmer模型与ExecuTorch框架,实现300亿参数模型在NVIDIA和Apple Silicon设备的高效推理,支持DFlash解码算法降低延迟。

入选理由:Muse Glimmer是300亿参数的模型,通过ExecuTorch实现端到端优化

FeaturedArticle#PyTorch#ExecuTorch#Muse Glimmer#AI推理#设备端AI英文

跨材料问答 · DFlash

回答基于:DFlash 相关 4 条材料
    0 / 500

    AI may generate inaccurate information. Please verify important content.