T
traeai
Sign in

概念

Continuous Batching

别名:连续批处理

连续批处理技术,动态合并请求以提升GPU利用率,是石科技推理优化核心组件。

已跟踪 2 条高相关材料

TraeAI 观察

最近变化

2026-05-29 · 是石科技通过全域异构算力池+深度国产芯片适配(昇腾/昆仑芯等),使闲置国产卡转化为稳定Token产能

为什么值得关注

Continuous Batching 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。

LLMToken经济国产AI芯片大模型推理推理优化

相关材料

已收录 2 条与 Continuous Batching 相关的内容,按评分排序。

清华系团队给大模型织了一张“智能算力电网”

Shi Shi Tech builds an intelligent compute grid integrating heterogeneous domestic AI chips, achieving 40% lower token cost, 30–50% higher throughput, and 99.9% availability—enabling a paradigm shift from raw compute resources to standardized, scalable token production capacity.

入选理由:是石科技通过全域异构算力池+深度国产芯片适配(昇腾/昆仑芯等),使闲置国产卡转化为稳定Token产能

FeaturedArticle#LLM Inference#Domestic AI Chips#Compute Orchestration#Shi Shi Tech#Token Economics中文
Unlocking asynchronicity in continuous batching

Unlocking asynchronicity in continuous batching

Hugging Face Blog4048 字 (约 17 分钟)
85

Asynchronous batching can boost GPU utilization to 100%, reducing idle time by 24%.

入选理由:同步批处理导致GPU空闲时间占总运行时间的24%。

FeaturedArticle#LLM#Inference Optimization英文

跨材料问答 · Continuous Batching

回答基于:Continuous Batching 相关 2 条材料
    0 / 500

    AI may generate inaccurate information. Please verify important content.