高效推理MiniMax-M3:解锁1M令牌上下文和多模态能力
Together AI优化了MiniMax M3模型的部署,通过架构和工程创新实现81–125%吞吐量提升。
入选理由:MiniMax M3 supports 1M-token context and native multimodality, making it suitable for complex real-world tasks.
公司
也叫:togetherai
提供模型部署平台的AI公司
最近变化
2026-10-19 · 支持LoRA训练和全权重实验,提升模型灵活性
Together AI 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
已收录 30 篇与「Together AI」相关的 AI 资讯和分析。
Together AI优化了MiniMax M3模型的部署,通过架构和工程创新实现81–125%吞吐量提升。
入选理由:MiniMax M3 supports 1M-token context and native multimodality, making it suitable for complex real-world tasks.
Together AI推出Post-Training服务,提供灵活高效的自定义模型训练,无需重基础设施负担。
入选理由:支持LoRA训练和全权重实验,提升模型灵活性
Meta Muse Spark Open模型在Together AI上线,支持1M-token上下文和多模态输入,适用于复杂代码重构场景。
入选理由:Muse Spark Open具备1M-token上下文窗口,可处理完整项目代码库
Together AI联合IBM和NVIDIA构建全球最大规模NVIDIA B300 GPU推理集群,实现企业级AI推理能力突破。
入选理由:NVIDIA B300 GPU集群首次部署于IBM Cloud,支持万亿级token月处理量
开源AI堆栈包含模型、推理、网关、Harness和工具五层,开发者可灵活切换模型并优化成本与性能。
入选理由:MIGHT堆栈各层独立,允许快速替换模型以适应不同任务需求。
Together AI推出预占式计算,以一半价格提供相同GPU资源,适用于中断容忍型任务。
入选理由:预占式节点按50%按需价格计费且支持亚小时计费
Together AI 扩展微调服务,新增 15+ 模型支持,提供实时指标跟踪与精细控制,降低大模型训练门槛。
入选理由:GLM-5.3 在 Terminal-Bench 2.1 评分 88.2,接近顶级闭源模型性能
GLM-5.3在DeepSWE基准测试中成本仅为Claude Fable 5的1/5,且在多尝试指标上表现更优。
入选理由:GLM-5.3每任务成本为$3.99,Claude Fable 5为$21.63,成本差距达5.4倍。
GLM-5.3在多次尝试下表现优于GPT-5.6 Sol,且成本更低,但单次尝试中GPT-5.6 Sol稍胜一筹。组合使用可覆盖106/113任务,性价比达85.9%。
入选理由:GLM-5.3单次尝试成本3.99美元,解决率69.0%,GPT-5.6 Sol成本8.37美元,解决率72.7%
GLM-5.3 Flash以1/17成本解决15倍任务,首次尝试性能落后5.6%但多次重试后差距缩小至2.6%。
入选理由:GLM-5.3 Flash成本为GLM-5.3的1/17,但每100美元解决任务数是其15倍。
DeepSeek-V4 Flash 0731成本仅为GPT-5.6 Luna的1/6,但组合使用时在准确率和成本上均优于单独使用Luna。
入选理由:GPT-5.6 Luna单次任务准确率67.2%,DeepSeek-V4 Flash为53.3%,但后者成本仅0.10美元/任务。
Together AI平台提供端点级A/B测试方案,通过动态流量分配验证LLM模型效果,避免传统方法的基础设施耦合问题。
入选理由:Together AI平台在端点层实现A/B测试,无需修改客户端代码
组合使用DeepSeek V4 Pro 0813和Claude Fable 5可解决82.7%的DeepSWE任务,成本仅8.28美元,比单独使用Claude节省62%费用。
入选理由:DeepSeek V4 Pro 0813首次尝试解决62.8%任务,成本仅0.24美元/次
DeepSeek V4 Pro 0813成本仅为GPT-5.6 Sol的1/35,但多次尝试后表现更优,适合预算有限且允许重试的任务。
入选理由:DeepSeek V4 Pro 0813每轮成本0.24美元,GPT-5.6 Sol为8.37美元,价格差距达35倍。
ThunderAgent通过优化KV缓存管理,实现单节点吞吐量提升2倍,集群加速2.4倍,解决代理推理中的缓存抖动问题。
入选理由:单节点吞吐量提升2.5倍,P50延迟降低10倍
Together AI平台通过端点/部署/配置三元组与容量感知路由实现模型推理配置,支持零停机变更和流量实验。
入选理由:配置由端点(固定身份)、部署(模型+硬件组合)、配置(运行配方)三部分构成
Together AI与Moonshot AI合作推出2.8T参数开源模型Kimi K3,支持长上下文和视觉任务,开发者可直接通过其平台部署和微调。
入选理由:Kimi K3是当前参数规模最大的开源模型(2.8T),支持1M token上下文窗口。
Together AI平台通过自适应扩展端点,结合LLM推理特有的指标(如TTFT、GPU利用率),实现更高效的资源管理,减少过量和不足配置的成本。
入选理由:选择TTFT和GPU利用率作为指标可有效平衡资源成本
Kimi K3是首个2.8万亿参数开源模型,支持1M上下文和高效推理,适用于复杂编程与知识工作。
入选理由:Kimi K3参数量达2.8万亿,是首个3万亿参数级开源模型
Kimi K3在DeepSWE基准测试中以1/3成本超越Claude Fable 5,多次尝试后性能反超,但后者可靠性更高。
入选理由:Kimi K3单次任务成本仅4.65美元,为Claude Fable 5的1/3
不同可靠性级别(99%、99.9%、99.99%)对应不同的故障域和架构要求,如99%需处理节点级故障,99.9%需跨数据中心部署,99.99%需多区域冗余。
入选理由:99%可靠性需处理GPU硬件故障,依赖自动化健康检查和快速替换
YC初创公司可通过专用GPU集群快速获取计算资源,无需长期合约。Together AI与YC合作解决AI公司算力瓶颈问题。
入选理由:YC初创公司可按需使用GPU,无需签订两年期合同
Together AI推出的新推理平台使用户能高效部署和管理开放权重模型,兼顾控制、成本与性能。
入选理由:开放权重模型成本仅为封闭模型的几分之一,但质量相当。
Kimi K3在软件工程任务中性能与Claude Fable 5相当,但价格仅为后者35%。
入选理由:Kimi K3价格仅为Claude Fable 5的35%但性能相同
Inkling是Thinking Machines Lab推出的多模态模型,支持高效推理和跨任务能力,Together AI提供生产级部署服务。
入选理由:Inkling通过query-conditioned attention和MoE架构实现多模态高效推理
Together AI 获得 ISO 27001:2022 认证,证明其信息安全管理符合国际标准,增强客户对其平台安全性的信任。
入选理由:Together AI 获得 ISO 27001:2022 认证,由 A-LIGN Compliance 和 Security 颁发。
构建高质量、低延迟、可扩展的语音代理已成为工程核心挑战,需解决实时响应(<500ms)、复杂指令处理与工具调用等关键问题,Together AI 提供基础设施支持。
入选理由:语音代理必须在500毫秒内响应,否则用户会挂断电话,实时性是核心指标。
Together AI 通过使用基于 profiles 的 TensorRT 优化其语音转文字堆栈,通过优化解码器循环和改进 CPU 路径,实现了更快的转录速度。他们提供的两个最低延迟模型中,最快的模型可以在不到 10 秒内转录 20 小时的语音。
入选理由:Together AI built the world's fastest speech-to-text stack.
Together推理引擎在编码代理工作负载中比其他开源引擎多提供31%的TPS,并在饱和状态下保持2倍的TTFT优势。性能提升来自全栈优化。
入选理由:ThunderMLA、自定义内核重写和端到端优化使Together引擎比其他OSS引擎多31%的TPS
Together AI 与 Pearl Research Labs 合作,通过 FlashAttention-4、ATLAS 等技术降低 AI 推理成本。
入选理由:FlashAttention-4 提升推理速度达 1.3 倍。
与「Together AI」经常一起出现的 AI 术语。
💡 想追踪「Together AI」的长期趋势?去 实体雷达 · Together AI 查看详细分析和跨材料问答。