How Atos uses Red Hat AI to build smaller, specialized models for sovereign AI

Atos 如何利用 Red Hat AI 构建更小、更专业的主权 AI 模型

Component | Article_teaser

2026年10月28日

3

分钟阅读

AI推理

,

人工智能

合作伙伴

马丁·伊萨克松

GTM负责人

扬努斯·洛克尔莱因

机器学习工程师

Subpattern | social_share_set

Component | social_share

分享

Subpattern | subscribe

Component | social_icon

订阅RSS

Component | Icon

© Red Hat, Inc. CC-BY-4.0 授权

Subpattern | results_nav

组布局

Component | Nav_links

• 返回所有文章

Component | Generic

对企业而言，人工智能主权始于这一基本要求：保留对其数据和基础设施的控制权。但随着组织从人工智能实验转向实际业务流程部署，对模型本身的控制变得越来越重要。这包括能够根据企业特定需求对模型进行微调和适应的能力。

Atos 正在通过 Red Hat AI 实现这一点，他们在一个专注于解析14个类别（如有害内容指标）的德语社交媒体内容项目中应用该技术。为了确保下游系统使用时的可靠性，模型必须以一致且定义明确的JSON结构提供洞察。同时，解决方案必须满足严格的主权要求，实现对数据、模型和训练流程的控制。

要实现这一目标，Atos 必须找到一种方法，既能提供所需的准确性和可靠性，又能实现规模上的主权和经济可行性。

更多上下文并非总是答案

RAG 已成为企业将 AI 模型与专有信息连接的重要方式。但并非所有问题都能通过为模型提供更多上下文来解决。

对 Atos 来说，挑战在于让模型可靠地执行特定任务：主要解析德语内容，提取正确信息，并以所需结构一致地返回结果。这需要改变模型的行为方式，而不仅仅是扩大其可访问的信息范围。

借助 Red Hat AI，Atos 能够利用合成数据生成创建高质量数据集，从而对小型模型进行结构化提取的微调。

这解决了领域特定数据稀缺的问题（这是微调的常见障碍），使企业能够生成专门用于特定企业任务的合成训练集。

这为企业提供了另一种将数据与AI连接的方式。RAG 可以为模型提供相关的企业知识，而微调则适用于需要训练模型实现更专业和一致行为的场景。

小型模型可以改变企业AI的经济性

为什么选择这种方法而不是直接使用前沿模型？在企业规模上，模型大小至关重要。Atos 的用例设计考虑到了每天可能处理数百万条记录的情况，因此推理成本和延迟成为重要考量因素。

关键挑战在于确定模型可以小到什么程度，同时仍能完成所需任务。与基线模型相比，微调使Phi-4 Mini的整体评估得分提升了高达26.4%。经过调优的模型还学会了持续生成有效的JSON，仅通过微调就实现了约99%的有效性，而无需依赖额外的工具来强制输出结构。这尤其重要，因为它表明模型自身已经学会了所需的输出行为。

更重要的是，小型模型在特定任务上能够与GPT-4.1竞争。微调后的Qwen 2.5 7B模型在评估中表现优于GPT-4.1，而微调后的Phi-4 Mini尽管体积小得多，但表现与GPT-4.1非常接近。Phi-4 Mini在整体得分上还超过了NuExtract 2.0 8B模型，后者是专为结构化提取设计的模型，体积是Phi-4 Mini的两倍多，得分差距高达22.6%。

这并不意味着小型模型在所有工作负载上都会超越前沿模型，而是证明了最大的模型未必是每个任务的最佳选择。

对于定义明确的企业工作负载，微调小型模型可以在不使用通用前沿模型带来的额外开销情况下，提供适当的精度。在高吞吐量生产场景中，这显著提升了大规模运行AI的经济效益。

从数据主权到AI主权

主权不仅涉及将数据保留在特定地理边界内。企业越来越需要对模型本身拥有控制权：模型的运行位置、适应方式以及如何与业务流程集成。

开源模型为实现这一控制提供了重要基础。开源模型使您能够根据自己的工作负载定制模型，并部署在您控制的基础设施上。

随着智能体AI的发展，这一点变得越来越重要。企业智能体通常需要协调许多专业任务，例如信息提取、请求分类、生成结构化输出以及与企业系统交互。这些任务并不总是需要前沿模型的广泛能力，通常需要一致且特定于任务的行为。

与其将每个任务都发送给庞大的前沿模型，不如为每个工作负载选择合适的模型，并在合适的情况下专门优化小型模型。

对于Atos而言，结果证明，经过微调的小型模型可以在特定企业任务上匹配甚至超越前沿模型的性能，同时提供实现主权AI所需的完整控制能力。

主权AI不仅仅是关于AI的运行位置，还关乎赋予企业围绕自身需求塑造AI的控制权和灵活性。

接下来

想探索更小、更专业的模型在您的AI工作负载中可能的表现吗？

• 与Red Hatter专家交流：了解Red Hat AI或直接联系销售团队

• 了解平台：探索Red Hat OpenShift AI

• 亲身体验：尝试我们的AI互动演示

• 阅读技术博客：《更小的模型，更清晰的洞察：Atos如何实现结构化输出》

• 获取技术快速入门：查看AI快速入门指南

Block | Dynamic pattern deluxe promo

Component | Band_header

Product trial

Red Hat AI Inference | Product Trial

Red Hat AI Inference | Product Trial

Component | spacer

Component | Cta_multi_basic

Subpattern | simple_cta

Component | CTA

Try it

Deluxe mbox

Component | Card_header

关于作者

Subpattern | speaker

卡片布局

组件 | 图像嵌入

组件 | 人物

Martin Isaksson

子模式 | 社交链接

我的创业精神促使我共同创立了一家人工智能初创公司。这段经历，加上我在Red Hat推动关键市场推广计划以及建立战略合作伙伴关系的工作，塑造了我将复杂技术转化为有效市场策略的能力。我享受分享这些见解，无论是向加州大学伯克利分校和斯坦福大学的听众演讲，还是与企业高管交流。我在人工智能研究方面的背景，包括与皇家理工学院和斯坦福大学的合作（研究成果在2017年SSDL会议上发表），持续激发着我对创新的热情。

阅读该作者的更多文章

Jannus Röckelein

类似内容推荐

动态模式

博客文章

基于策略驱动的访问控制的AI代理安全

AI时代的企业软件供应链安全

原始播客

代理AI能否修补互联网？

Red Hat如何为可扩展AI清除IT债务

子模式 | 卡片弹性布局

子模式 | 基础文本

继续探索

• 免费试用：Red Hat 学习订阅试用版

• 开始免费产品试用 试用版

• 无成本订阅Red Hat TV 视频

继续探索 mbox

子模式 | 简单文本

按频道浏览

浏览所有频道

模式 | 原始HTML

自动化

关于IT自动化在技术、团队和环境方面的最新动态

人工智能

关于使客户能够在任何地方运行AI工作负载的平台的最新动态

混合云

探索我们如何通过混合云构建更灵活的未来

安全

关于我们在不同环境和技术中降低风险的最新动态

边缘计算

关于简化边缘操作平台的最新动态

基础设施

关于全球领先的企业级Linux平台的最新动态

应用程序

深入了解我们解决最复杂应用程序挑战的方案

虚拟化

企业虚拟化的未来，适用于本地或跨云的工作负载