新智元

突破长序列与低耗部署核心瓶颈!中国科学院发布类脑大模型瞬悉2.0

7.8内容质量
突破长序列与低耗部署核心瓶颈!中国科学院发布类脑大模型瞬悉2.0

TL;DR · AI 摘要

中科院发布瞬悉2.0类脑大模型,聚焦长序列建模与低功耗部署突破,支持千兆token上下文与端侧推理。

核心要点

  • 提出新型类脑稀疏注意力机制,降低长序列计算复杂度
  • 支持1024K token上下文长度,显存占用下降40%
  • 已落地边缘设备,实测功耗低于8W@INT4
#大模型#类脑计算#中科院#长序列#边缘AI
打开原文

Warning: This page maybe requiring CAPTCHA, please make sure you are authorized to access this page.

环境异常

当前环境异常,完成验证后即可继续访问。

去验证