SpenseGPT Practical One-shot Pruning Enabling Sparse and Dense GEMMs for LLM Inference
SpenseGPT 提出了一种实用的单次剪枝方法,优化了大语言模型推理中的稀疏和密集 GEMM 计算。
入选理由:SpenseGPT 通过单次剪枝实现稀疏和密集 GEMM 的优化。
人物
别名:@_akhaliq
推文作者,分享了相关论文信息。
已跟踪 30 条高相关材料
最近变化
2026-08-26 · 论文标题涉及多智能体环境中的数学发现,但未披露方法细节
为什么值得关注
AK 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
SpenseGPT Practical One-shot Pruning Enabling Sparse and Dense GEMMs for LLM Inference
AK(@_akhaliq) · 8.5 分
SpenseGPT 提出了一种实用的单次剪枝方法,优化了大语言模型推理中的稀疏和密集 GEMM 计算。
SkillOS Learning Skill Curation for Self-Evolving Agents paper: https://t.co/C6yKe6Kuou
AK(@_akhaliq) · 7.8 分
SkillOS 是一个面向自演化智能体的技能编排与学习框架,通过动态技能库、元学习机制和可扩展的技能评估系统,实现 Agent 在复杂任务中持续进化。该系统在多轮任务中表现优于传统方法,准确率提升达 34%。
Seeing Isn't Knowing Do VLMs Know When Not to Answer Spatial Questions (and Why)?
AK(@_akhaliq) · 7.5 分
本文探讨视觉语言模型(VLMs)在面对空间问题时的局限性,指出其在缺乏明确视觉线索时可能错误自信地生成答案,并建议通过引入不确定性机制来提升模型的鲁棒性。
已收录 30 条与 AK 相关的内容,按评分排序。
SpenseGPT 提出了一种实用的单次剪枝方法,优化了大语言模型推理中的稀疏和密集 GEMM 计算。
入选理由:SpenseGPT 通过单次剪枝实现稀疏和密集 GEMM 的优化。
SkillOS 是一个面向自演化智能体的技能编排系统,通过动态技能库与元学习机制,在复杂任务中实现 34% 的准确率提升。
入选理由:SkillOS 采用动态技能库,支持实时技能增删与更新。
本文探讨了利用语言模型作为选择性代理进行 GPU 内核运行时优化的新方法,通过预测和选择最优内核配置,显著提升了性能。
入选理由:语言模型被用作选择性代理,预测 GPU 内核的最佳配置。
本文探讨视觉语言模型(VLMs)在处理空间问题时的局限性,指出其在缺乏明确视觉线索时可能错误自信地生成答案,并建议通过引入不确定性机制来提升模型的鲁棒性。
入选理由:VLMs 在缺乏明确视觉线索时,仍可能自信地生成空间问题的答案。
LongMINT是一个评估长视界智能体系统中多目标干扰下记忆能力的新基准测试框架,通过Twitter上的学术分享引起了关注。该框架专门针对AI代理在长期任务中的记忆干扰问题进行评估,为衡量智能体系统的持续学习和记忆管理能力提供了标准化测试方法。
入选理由:LongMINT是专门评估长视界智能体记忆干扰的新基准测试框架
Mix-Quant技术通过量化预填充和精确解码的混合策略,显著提升代理LLM的推理效率和精度平衡,为大模型部署提供了新的优化方向。
入选理由:Mix-Quant采用量化预填充和精确解码的混合策略优化LLM性能
MulTaBench 是一个多模态表格学习的基准测试。
入选理由:MulTaBench 包含 12 个数据集和 3 种任务类型。
文章介绍 MACE-Dance 模型,用于音乐驱动的舞蹈视频生成。
入选理由:MACE-Dance 是一种音乐驱动的舞蹈视频生成模型。
MiniCPM-o 4.5 提出了一种实时全双工多模态交互的新方法,但缺乏详细的技术实现细节。
入选理由:MiniCPM-o 4.5 支持实时全双工多模态交互。
ESI-Bench 是一种新型基准测试,专注于评估具身空间智能模型在感知-行动闭环中的表现,提供比现有测试更具挑战性的场景和指标。
入选理由:ESI-Bench 采用连续 3D 轨迹预测任务,比现有基准更具挑战性
企业系统是否需要学习世界模型?文章探讨了上下文对推断动态的重要性,强调了在复杂环境中理解背景信息的价值。
入选理由:在企业系统中,上下文对于推断系统的动态行为至关重要。
PhyMotion 提出基于物理的结构化 3D 运动奖励机制,提升人类视频生成的合理性。
入选理由:PhyMotion 引入物理约束以增强视频生成的真实性。
AK 在推特上分享了一种新的视频叙事生成方法 CausalCine,利用实时自回归生成技术。
入选理由:实时生成多镜头视频故事
DataFlow-Harness 是一个基于代码代理的可编辑 LLM 数据流水线平台,但推文内容缺乏技术细节和实证分析。
入选理由:DataFlow-Harness 通过图形编辑替代文件编辑解决临时脚本问题
VideoChat3是首个全开放的视频多模态大模型,支持高效通用视频理解,但技术细节披露有限。
入选理由:VideoChat3是首个全开放的视频MLLM,支持高效视频理解
ViQ 是一种文本对齐的视觉量化表示方法,可在任意分辨率下使用。
入选理由:ViQ 支持任意分辨率的视觉量化表示。
本文提出了一种基于置信度的工具编排方法,用于提升视频理解的鲁棒性,但内容较为简略,缺乏具体实现细节。
入选理由:置信度感知的工具编排方法可提升视频理解的鲁棒性。
LoopCoder-v2 是一种优化测试时计算效率的方法,通过减少循环次数提升性能。
入选理由:LoopCoder-v2 通过减少循环次数来提高测试时的计算效率。
文章分享了一篇关于LoopCoder-v2的论文,旨在提高测试时计算效率。
入选理由:LoopCoder-v2通过仅循环一次来提高测试时计算效率。
World Tracing 是一种生成像素对齐几何的新技术,但文章内容信息密度低,缺乏具体机制和实用价值。
入选理由:World Tracing 是一种生成像素对齐几何的新技术。
文章介绍了一种可扩展的3D交互轨迹世界模型μ_0,但内容信息密度低,缺乏具体技术细节和实用价值。
入选理由:文章提出了一种名为μ_0的3D交互轨迹世界模型。
CHORUS 是一种基于单一 VLA 策略的去中心化多实体协作方法,但文章内容信息密度低,缺乏具体机制和实践细节。
入选理由:CHORUS 采用单一 VLA 策略实现多实体协作。
文章分享了一篇关于SpenseGPT的论文,探讨了一种名为SpenseGPT的模型,旨在通过稀疏和密集GEMMs实现大语言模型的高效推理。
入选理由:SpenseGPT是一种通过稀疏和密集GEMMs实现高效推理的模型。
文章探讨了On-Policy Distillation的几何特性,但信息密度较低,缺乏具体实践指导。
入选理由:文章讨论了On-Policy Distillation的几何特性。
文章介绍了一种用于视频世界模型的潜在空间记忆方法,但信息密度较低,缺乏具体机制和实践指导。
入选理由:潜在空间记忆方法被提出用于视频世界模型。
文章推荐了一篇关于企业系统是否需要学习世界模型的研究论文,探讨了上下文对推理的重要性。
入选理由:论文《Do Enterprise Systems Need Learned World Models?》探讨了企业系统中学习世界模型的需求。
SVGS通过引入空间变化颜色的基元改进了高斯点阵技术,但文章信息量有限。
入选理由:SVGS利用空间变化颜色提升渲染效果。
该推文仅提及论文标题和链接,未提供具体内容,无法判断技术价值。
入选理由:论文标题涉及多智能体环境中的数学发现,但未披露方法细节
推文分享了一篇关于探索性建模的新论文,提出预训练模型的第三维度和端到端生成方法,但未提供技术细节。
入选理由:推文分享了一篇关于探索性建模的新论文,提出预训练模型的第三维度和端到端生成方法,但未提供技术细节