T
traeai
Sign in

人物

antirez

Redis 创始人,DS4 项目开发者。

相关材料

已收录 2 条与 antirez 相关的内容,按评分排序。

Hacker News Best 图标

A few words on DS4

Hacker News Best532 字 (约 3 分钟)
85

DS4 is a local AI model based on DeepSeek v4 Flash, which has rapidly gained popularity due to its efficiency and usability.

入选理由:DS4 使用 2/8 bit 量化技术,仅需 96GB RAM 即可运行。

FeaturedArticle#AI#Local Inference#Model Optimization中文
DeepSeek V4 Flash 可以在 128GB 的 M3 Max 运行,还是 1M 上下文

DeepSeek V4 Flash 可以在 128GB 的 M3 Max 运行,还是 1M 上下文

掘金本周最热3702 字 (约 15 分钟)
85

DeepSeek V4 Flash 模型通过不对称优化和硬件特性绑定,在 128GB 内存的 M3 Max MacBook Pro 上实现了 1M 上下文的稳定运行。

入选理由:DeepSeek V4 Flash 使用不对称 2-bit 量化,仅对 MoE 专家部分进行量化,保持关键路径全精度。

FeaturedArticle#DeepSeek#MoE#量化#Apple Silicon#CUDA中文

跨材料问答 · antirez

回答基于:antirez 相关 2 条材料
    0 / 500

    AI may generate inaccurate information. Please verify important content.