Announcing llm-d 1.0: Open distributed inference for agents on Google Cloud TPUs and GPUs
Google Cloud 发布 llm-d 1.0,通过缓存感知路由和分层 KV 缓存优化多步骤代理推理,支持 TPU/GPU 混合部署。
入选理由:llm-d 1.0 支持 1000 个代理实例并发处理,通过分层 KV 缓存降低 40% 内存占用
产品
GKE上的计算环境,用于运行高密度代理舰队。
最近变化
2026-10-20 · llm-d 1.0 支持 1000 个代理实例并发处理,通过分层 KV 缓存降低 40% 内存占用
Agent Substrate 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
Announcing llm-d 1.0: Open distributed inference for agents on Google Cloud TPUs and GPUs
Google Cloud Blog · 8.5 分
Introducing Filestore agent volumes: fully managed storage for agent workspaces
Google Cloud Blog · 8.5 分
Agent Substrate brings high-density, scalable, trusted infrastructure to GKE
Google Cloud Blog · 8.5 分
已收录 4 篇与「Agent Substrate」相关的 AI 资讯和分析。
Google Cloud 发布 llm-d 1.0,通过缓存感知路由和分层 KV 缓存优化多步骤代理推理,支持 TPU/GPU 混合部署。
入选理由:llm-d 1.0 支持 1000 个代理实例并发处理,通过分层 KV 缓存降低 40% 内存占用
Google Cloud推出Filestore agent volumes,提供全托管存储解决方案,解决AI代理工作负载的存储挑战。
入选理由:Filestore agent volumes自动分配存储,减少手动管理,提升效率。
Google Cloud 推出 Agent Substrate,为 GKE 提供高密度、可扩展且安全的代理执行基础设施,支持每秒 500 次挂起/恢复操作。
入选理由:Agent Substrate 在 GKE 上实现 10 倍于标准容器运行时的密度提升
Google Cloud officially launches GKE Agent Sandbox and introduces open-source project Agent Substrate, providing secure, efficient execution environments and ultra-scale scheduling solutions for AI agents.
入选理由:GKE Agent Sandbox GA支持每秒300个沙盒分配,90%在200ms内完成,成本降低30%
与「Agent Substrate」经常一起出现的 AI 术语。
💡 想追踪「Agent Substrate」的长期趋势?去 实体雷达 · Agent Substrate 查看详细分析和跨材料问答。