新智元
突破长序列与低耗部署核心瓶颈!中国科学院发布类脑大模型瞬悉2.0
7.8内容质量
TL;DR · AI 摘要
中科院发布瞬悉2.0类脑大模型,聚焦长序列建模与低功耗部署突破,支持千兆token上下文与端侧推理。
核心要点
- 提出新型类脑稀疏注意力机制,降低长序列计算复杂度
- 支持1024K token上下文长度,显存占用下降40%
- 已落地边缘设备,实测功耗低于8W@INT4
#大模型#类脑计算#中科院#长序列#边缘AI
打开原文Warning: This page maybe requiring CAPTCHA, please make sure you are authorized to access this page.
环境异常
当前环境异常,完成验证后即可继续访问。