Open telco AI: Training a model for an industry

Open telco AI: 为行业训练模型

Component | Article_teaser

2026年8月26日

4

分钟阅读时间

人工智能

Hanen Garcia

William Caban

Aditi Saluja

Ravi Sharma

Kai Xu

Shivchander Sudalairaj

Subpattern | social_share_set

Component | social_share

分享

Subpattern | subscribe

Component | social_icon

订阅 RSS

Component | Icon

© Red Hat, Inc. CC-BY-4.0 授权

Subpattern | results_nav

组布局

Component | Nav_links

• 返回所有文章

Component | Generic

领域专用人工智能（AI）正成为电信行业的实际优先事项。在 AMD Advancing AI 活动上，AT&T 首席技术官 Jeremy Legg 与 AMD 计算和企业 AI 副总裁兼总经理 Dan McNamara 共同介绍了 OTel 2.0，并展示了面向电信的模型如何更接近生产网络应用。早期反馈表明这一趋势正在加速：自发布以来，OTel 2.0 的下载量已超过 500 万次，而 OTel 1.0 模型的下载量此前已接近 3000 万次。

通过整合 Red Hat、AT&T、AMD、Dell、Microsoft 和 GSMA 的力量，这项合作旨在推动运营商级 AI 的发展。通过结合开源方法（包括 OTel 硬件无关的开源训练仓库和 Red Hat 的合成数据生成（SDG Hub）开源仓库）与专用基础设施，该合作创建了一个完整的行业蓝图，使整个行业能够在无供应商锁定的情况下训练、保护和扩展领域专用模型。

除了模型训练，由 Red Hat 担任技术牵头的 Linux 基金会网络（LFN）人工智能运营（AIOps）可观测性工作组，正在构建一个开源最佳实践指南和端到端可观测性的模拟概念验证（PoC）。OTel 2.0 提供了该环境推理引擎的模型，用于解析遥测数据、根据 3GPP 标准诊断故障，并在闭环自动化流程中生成可操作的解释。可观测性管道将提取正确的数据，而 OTel 2.0 帮助理解这些数据。两者结合，填补了数据采集与数据应用之间的差距。

合成数据生成：从电信标准创建训练数据

构建能够理解服务提供商环境的 AI 需要基于行业标准的训练数据。通用 AI 模型在处理服务提供商特定任务时表现不佳，因为它们缺乏对 3GPP 规范、IETF 意见请求（RFCs）和复杂网络架构中编码的专业术语和概念的接触。

AT&T 使用 Red Hat 的开源 SDG Hub，将原始电信文档转化为 OTel 2.0 的高质量训练数据。GSMA 通过收集和处理来自七个标准制定组织（包括 3GPP、ETSI、GSMA、CAMARA、ITU、O-RAN 和 TM Forum）的文档，提供了约 150 亿个标记的初始数据集，并将密集的技术规范转化为适合模型训练的材料。

SDG Hub 的知识调优流程结合了 4 种知识提取策略，以创建全面的训练数据：

• 基于文档的知识调优流程直接处理完整章节，从完整上下文中生成问答（Q&A）对。

• 抽取式摘要知识调优从长文档中提取最关键段落，聚焦于技术重要性内容。

• 详尽摘要知识调优创建主题性摘要，捕捉更广泛的理论框架。

• 关键事实知识调优将文档分解为原子级元素，构建用于精确定义的细粒度知识。

对同一源材料运行所有4种流程并合并输出结果，可构建更丰富、更多样化的训练数据集。

例如，描述RRC连接建立过程的3GPP规范可能使用抽取式摘要调优从50页文档中提取关键步骤，然后生成问答对，既教会模型该流程的具体内容，又说明其与更广泛5G网络操作的关系。

基于当前电信语料库，这种方法可生成数千个训练示例。随着该计划扩展到更广泛的电信知识库，可生成数十万个指令调优示例，同时始终保持技术精确性。

训练模型

AT&T使用监督微调（SFT）在AMD图形处理单元（GPU）计算基础设施上对OTel 2.0进行全权重训练。监督微调采用预训练基础模型，并在从语料库生成的专业问答对上进一步训练。这种方法更新模型中的每个参数，使其能够内化复杂术语和流程知识。

展望未来，像正交子空间微调（OSFT）这样的开源技术为后续训练周期提供了有前景的能力。该方法可通过Red Hat的开源训练中心获得，解决了持续学习中的一个挑战——灾难性遗忘。当模型按顺序学习新任务时，通常会丢失早期任务的性能。该技术通过限制参数更新，在学习新技术能力的同时保留已有知识，适应服务提供商网络技术的演进。

扩展应用规模

Open Telco AI计划展示了开源协作如何加速创新，但真正价值在于让这些能力惠及所有行业。

SDG Hub的知识调优流程不特定于服务提供商，可应用于任何领域的技术文档。金融服务公司可使用相同流程从监管文件生成训练数据，医疗组织可将其应用于医学研究论文，制造企业可处理设备规格和维护手册。该方法具有普适性：使用您领域权威文档，通过知识调优流程处理，生成教授模型您行业语言和概念的训练数据。

组织可获得创建领域专用AI工具的能力，同时保持对数据驻留和运营韧性的完全控制。开源基础意味着社区可持续改进底层能力。无论部署在本地还是混合云环境，组织均可使用这些构建模块加速AI计划，避免供应商锁定。

使模型具备生产就绪能力

在生产环境中部署AI需要严格的安全部署和运营加固，这正是Red Hat的开源AI安全工具发挥作用的地方。

生成训练数据的同一 SDG Hub 也会生成对抗性测试用例，用于评估模型安全性并帮助量化 AI 风险敞口。结合 Garak（一个开源的 LLM 漏洞扫描工具）、领域感知的红队探测扩展功能，以及生产环境中的防护措施（Guardrails），该方法系统性地对模型进行测试，防范提示注入攻击、网络参数幻觉以及绕过安全限制的尝试。

作为 AI 红队行动的一部分，红帽积极为这些开源项目做出贡献，将安全性贯穿于 AI 生命周期的各个环节，从数据生成到生产环境的持续监控。与部署后才添加安全措施的方式不同，该方法将安全测试直接嵌入开发流程，使具备安全特性的企业级 AI 可供使用，而无需每个组件都具备深厚的安全专业知识。

这种集成的安全、验证和可靠性方法，有助于弥合从演示到生产级 AI 的差距，使服务提供商能够在关键环境中信任这些 AI 系统。

为什么开放协作能创造价值

该计划之所以成功，是因为每个合作伙伴都带来了关键能力。GSMA 通过 Open Telco AI 提供了约 150 亿个原始 token。AT&T 使用红帽的开源 SDG Hub，在微软托管计算平台上处理了超过 100 万亿个 token，数据准备阶段使用了约 530 个 GPU（主要是 AMD MI300X GPU）。这项工作为 OTel 2.0 生成了约 4400 亿个训练 token。随后，AT&T 在戴尔科技提供的本地 AMD MI355X GPU 上训练该模型。Day 0 推理服务已部署在微软 Foundry、Featherless AI 和红帽平台上，随着训练的持续进行，计划每周更新一次模型权重。

开放技术证明了最佳的企业级技术应通过协作构建，并从一开始就考虑生产部署。电信行业基于开放标准运行，服务提供商的 AI 也应如此。

Block | Dynamic pattern deluxe promo

Component | Band_header

Resource

适应性强的企业：为什么 AI 准备度就是抗颠覆能力

这本电子书由红帽首席运营官兼首席安全官 Michael Ferris 所著，帮助 IT 领导者应对当前面临的 AI 技术变革和颠覆挑战。

Component | spacer

Component | Cta_multi_basic

Subpattern | simple_cta

Component | CTA

获取资源

Deluxe mbox

Component | Card_header

关于作者

Subpattern | speaker

Card layout

Component | Image_embed

Component | Person

Hanen Garcia

电信解决方案经理

Subpattern | social_links

Hanen Garcia 是红帽的全球电信解决方案经理，拥有超过 20 年的电信行业经验，曾为大型电信运营商构建网络解决方案和增值服务。在目前的职位上，他推动解决方案以支持电信服务提供商在网络转型过程中的需求。在加入红帽之前，他在爱立信担任创新专家，设计移动网络的前沿解决方案。Garcia 持有加拿大 ÉTS 的创新管理硕士（M. Eng.）和法国 Polytech 的电信硕士（M.Eng.）学位。

阅读该作者的更多文章

William Caban

生成式 AI 高级首席产品经理

William 是 Red Hat AI 业务部门的产品经理，是人工智能领域的资深专业人士和发明者。在高性能计算、企业平台、数据科学和机器学习领域拥有丰富经验，William 历来擅长在不同市场引入前沿技术。目前他凭借全面的背景推动生成式 AI 领域的创新解决方案，解决该领域复杂的客户挑战。在职业角色之外，William 还作为导师为社会企业家提供志愿服务，指导他们开发负责任的 AI 产品和服务。他也是 Cloud Native Computing Foundation（CNCF）社区的积极成员，为云原生技术的发展做出贡献。

Aditi Saluja

技术产品经理

Aditi 是 Red Hat 的技术产品经理，负责 Instruct Lab 的合成数据生成能力。她热衷于利用生成式 AI 创造无缝且具有影响力的终端用户体验。

Ravi Sharma

电信行业高级首席解决方案架构师

Ravi Sharma 是 Red Hat 的高级首席解决方案架构师，致力于应用 AI 与电信基础设施的交汇领域。他热衷于开放且工程设计精良的基础设施，使电信运营商能够在不牺牲可靠性和安全性的情况下采用 AI。他在 Red Hat 的 AI 和自动化产品组合中专门解决复杂的真实世界问题，从 Red Hat OpenShift AI、vLLM 和 llm-d 上的智能代理工作负载，到 Ansible Automation Platform 和 OpenShift 上的网络与基础设施自动化。

Kai Xu

Shivchander Sudalairaj

类似内容

动态模式

博客文章

自动化 AI 红队：大语言模型风险识别与缓解

AI 时代增强安全风险管理的 5 种方式

原始播客

用 PyTorch 标准化 AI 堆栈

技术演讲 | 用开源定义主权 AI

子模式 | card_flex

子模式 | text_basic

继续探索

• 什么是智能代理 AI？文章

• 预测性 AI 与生成式 AI 对比 文章

• 构建生产级 AI/ML 环境的首要考虑因素 电子书

• 以 Ansible 方式实现生成式 AI 视频

• 通过现代应用平台实现创新与转型 电子书

继续探索 mbox

子模式 | simple_text

按频道浏览

探索所有频道

模式 | raw_html

自动化

面向技术、团队和环境的 IT 自动化最新动态

人工智能

让客户随时随地运行 AI 工作负载的平台更新

混合云

探索我们如何通过混合云构建更灵活的未来

安全

跨环境和技术减少风险的最新进展

边缘计算

简化边缘操作平台的最新动态

基础设施

全球领先的企业级 Linux 平台最新动态

应用程序

我们解决最复杂应用程序挑战的方案解析

虚拟化

面向本地或跨云工作负载的企业级虚拟化未来