在AWS上进行基础模型训练与推理的核心构建模块
AWS 提供了支持大规模基础模型训练与推理的完整技术栈,涵盖高性能计算、网络、存储及开源软件集成,适配 NVIDIA 提出的“三大缩放定律”。
入选理由:NVIDIA 的三大缩放定律包括预训练、后训练(如 SFT 和 RL)和推理时计算,需统一基础设施支持。
产品
别名:亚马逊云服务
亚马逊的云计算服务平台。
已跟踪 30 条高相关材料
最近变化
2026-10-23 · 亚马逊2023年资本支出达2200亿美元,AWS业务年增长28%。
为什么值得关注
AWS 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
在AWS上进行基础模型训练与推理的核心构建模块
AI HOT 精选 · 9.2 分
AWS 提供了支持大规模基础模型训练与推理的完整技术栈,涵盖高性能计算、网络、存储及开源软件集成,适配 NVIDIA 提出的“三大缩放定律”。
AI Dev 26 x SF | Marc Brooker: It's Time to Be Right
DeepLearning.AI · 8.7 分
Marc Brooker断言:Agentic AI 的落地规模取决于缺陷率,而非模型能力上限;把缺陷频率×严重性降到“低×低”才是解锁万亿美元市场的关键。
Claude Platform on AWS 正式上线 和已有的 Claude on Amazon Bedrock 并行存在,两者并非升级关系,是两条不同定位的产品线: 服务运营方: · Anthr...
meng shao(@shao__meng) · 8.7 分
Claude Platform on AWS 正式上线,与 Bedrock 并行存在,提供原生 Claude API 全功能、AWS 认证与计费整合,适用于需最新能力且接受数据离境的客户;而 Bedrock 仍适合严格数据驻留场景。
已收录 30 条与 AWS 相关的内容,按评分排序。
AWS 提供了支持大规模基础模型训练与推理的完整技术栈,涵盖高性能计算、网络、存储及开源软件集成,适配 NVIDIA 提出的“三大缩放定律”。
入选理由:NVIDIA 的三大缩放定律包括预训练、后训练(如 SFT 和 RL)和推理时计算,需统一基础设施支持。
Marc Brooker 断言:Agentic AI 的落地规模取决于缺陷率,而非模型能力上限;把缺陷频率×严重性降到“低×低”才是解锁万亿美元市场的关键。
入选理由:缺陷率每降 1%,Agent 可覆盖的知识工作场景呈指数级扩大
Claude Platform on AWS 正式上线,与 Bedrock 并行,提供原生功能与 AWS 生态融合,适用于需最新能力且接受数据离境的客户。
入选理由:Claude Platform on AWS 与原生 API 功能100%对齐,新功能Day-One同步上线。
Joyn 从单节点架构演进到基于 AWS 的多区域无服务器架构,通过 Hub and Spoke 模式保障数据一致性,采用单元化隔离降低故障影响范围,并实现高性价比的 active-active 多区域部署。
入选理由:采用 Hub and Spoke 架构确保跨区域数据一致性,中心 Hub 管理全局状态。
AWS 推出 EC2 Capacity Blocks for ML 和 SageMaker Training Plans,帮助用户以折扣价格预留短期 GPU 资源,适用于负载测试、模型验证等临时性任务。
入选理由:EC2 Capacity Blocks 提供 40-50% 折扣并保障短期 GPU 资源可用。
KIKO Milano 通过迁移到 Vercel,彻底消除黑五前手动扩容的繁琐流程,实现自动伸缩、构建时间缩短 75%、每日多次部署,将运维负担转化为专注用户体验的敏捷能力。
入选理由:迁移到 Vercel 消除了黑五前 3 周的手动基础设施准备时间。
本文为工程师提供了一份90天SOC 2 Type II合规实施的详细路线图,涵盖范围界定、14项关键控制措施、自动化证据收集基础设施搭建及审计准备,避免常见延误陷阱。
入选理由:正确界定SOC 2范围可节省60天以上工作量,避免将开发环境等非生产系统纳入。
亚马逊CEO安迪·贾西强调,AI时代需要大规模基础设施投资,AWS业务增长迅速但面临成本和服务挑战。
入选理由:亚马逊2023年资本支出达2200亿美元,AWS业务年增长28%。
PyTorch 2026年北美会议展示了TorchTPU、TorchNeuron等关键进展,推动跨硬件平台的AI模型训练与部署。
入选理由:TorchTPU实现Google TPU的原生PyTorch支持,简化工作负载迁移
Amazon Quick作为HIPAA合格的AI平台,提供结构化/非结构化数据处理和治理功能,帮助医疗组织安全部署AI应用。
入选理由:Amazon Quick支持HIPAA合规的结构化和非结构化数据处理
AWS推出SageMaker AI无服务器模型定制功能,用户无需管理GPU即可进行LoRA/全微调等定制,提升模型精度与生产效率。
入选理由:SageMaker AI训练会话支持LoRA和全微调,无需管理GPU基础设施
PHP漏洞被黑客在官方补丁发布前四天利用,AWS研究揭示漏洞披露流程需加速以应对AI工具缩短的攻击窗口。
入选理由:AWS检测到黑客于10月17日(漏洞公开前4天)已尝试攻击PHP2Shell漏洞。
将长时间运行的Python模拟转化为自助服务平台需解决队列管理、故障恢复和可重复性问题,AWS异步工作负载处理方法是关键。
入选理由:使用AWS SQS和SNS实现任务队列与通知机制,提升处理效率。
AWS与i14合作在Trainium2上训练Laplace 3B线性注意力模型,推理内存固定为29.5MB/序列,训练速度达12万token/s。
入选理由:线性注意力机制将训练复杂度从O(T²)降至O(T),推理内存固定为29.5MB/序列
亚马逊收购DuckLabs并整合DuckDB至Aurora PostgreSQL,强化AI数据处理性能,承诺保持开源。
入选理由:DuckDB将保持MIT许可并持续开源,非营利基金会监督项目发展。
AWS提出基于Amazon Bedrock AgentCore的生产级AI代理评估框架,通过持续质量循环检测错误,避免误导性输出。
入选理由:Amazon Bedrock AgentCore可检测AI代理返回的错误财务数据(如将$410.08误报为$410.08 Million)
Vercel Sandbox挑战发现Linux内核零日漏洞,但未发现客户数据泄露。
入选理由:Linux内核网络栈缺陷可导致内存泄露、主机崩溃和代码执行
AWS SageMaker JumpStart 提供了简化模型部署和评估的工具,支持预配置选项和单击集成,适用于多种生成式AI模型。
入选理由:2026年新增Model Hub界面支持直接浏览和打开Notebook
Tamnoon利用Amazon Bedrock构建AI代理Tami,实现云安全修复自动化,90天内将关键暴露减少90%且无生产问题。
入选理由:Tami系统通过Amazon Bedrock实现云安全修复自动化,90天减少90%暴露
Databricks推出Private Network Gateway(PNG),简化无服务器工作负载连接私有网络,提升安全性与效率。
入选理由:PNG通过一次网络配置替代多个连接,减少75%的网络配置复杂性
AWS分享了Bulk Executor的构建经验,揭示了使用AWS Glue和Spark DataFrame处理DynamoDB批量操作的关键设计决策和实践教训。
入选理由:AWS Glue的无服务器特性支持数百个并行工作者,无需基础设施管理
AWS推出Anchor Browser与AgentCore支付系统,使AI代理可自主处理HTTP 402支付请求,无需人工干预。
入选理由:AgentCore支付系统支持x402协议,自动完成API和网页内容支付
AWS HealthOmics和Bedrock AgentCore结合,实现无需生物信息学代码的抗生素耐药性监测。通过公共测序数据自动分析耐药基因,提供自然语言查询结果。
入选理由:AWS CDK可一键部署完整分析架构,包含数据处理到自然语言回答的全流程
AWS推出增强型自定义事件总线,提升跨账户事件管理能力,支持有序交付和新定价模型。
入选理由:跨账户事件总线支持有序交付和内容去重,降低运维复杂度
Postman通过Amazon Bedrock构建Agent Mode服务4000万开发者,揭示了AI代理在生产环境中的架构设计与工程挑战。
入选理由:Amazon Bedrock支持跨区域推理和模型级数据保留控制
同步和异步代理执行模式各有优劣,选择需基于任务复杂度、延迟容忍度和基础设施需求,异步模式更适合长流程任务。
入选理由:同步模式受AWS API Gateway 29秒超时限制,复杂任务易导致连接中断。
AWS推出SageMaker优化生成式AI推理技能,可生成可执行代码提升部署效率,兼容主流编码代理。
入选理由:AWS SageMaker新技能生成可执行代码,提升部署效率
AI代理可在运行时自主生成工具,实现自修复系统,提升代码维护效率。
入选理由:AWS展示的AI代理能动态生成工具,无需人工干预
Pizza Bot是AWS开源的AI代理管理工具,通过邮箱式界面管理后台任务,支持本地数据存储和多模型提供商。
入选理由:Pizza Bot采用客户端-服务器架构,支持多种模型提供商和MCP服务器。
云服务需默认硬预算上限防止意外费用,AWS和Google Cloud已实施类似功能。
入选理由:AWS和Google Cloud已推出预算上限功能,可防止月度费用超支。