Falcon-Emirati: When an LLM Learns the Dialect, the Culture, and the Nuance

Falcon-Emirati：当大语言模型学习方言、文化与细微差别

返回文章列表

[0

团队

]

文章

发布日期：2026年10月6日

[-1

点赞

15

[

• +9

Shaikha Alsuwaidi

Shaikha710

关注

tiiuae

Omar saif alkaabi

Omar-Alkaabi

Maitha Alhammadi

MaithaAlhammadi

Ahmed Alzubaidi

amztheory

Mohammed Alyafeai

Alyafeai

Leen AlQadi

LeenAlQadi

Basma Boussaha

basma-b

Hakim Hacid

HakimHacid

试用 Falcon Emirati →

阿拉伯语实际上是一个语言家族，只是共享同一个名称。现代标准阿拉伯语（MSA）是你在新闻或教科书中看到的，但很少是人们日常交流的方式。在阿联酋，日常对话、幽默、谈判和讲故事都使用阿联酋阿拉伯语——一种拥有独特词汇、独特韵律，并深深植根于文化的海湾方言。阿联酋诗歌（尤其是纳巴提诗歌）、谚语和短篇轶事所承载的含义，往往无法通过逐字直译来完整保留。仅了解现代标准阿拉伯语的模型，即使能准确翻译每个单词，也可能误解整句话的实际含义。

这就是 Falcon-Emirati-7B 所要弥补的差距。该模型基于 Falcon-H1-Arabic 构建，专注于理解和生成阿联酋阿拉伯语，其方式与母语者一致：使用符合当地词汇、语调和文化语境的表达。

基于 Falcon-H1-Arabic 构建

我们并非从零开始。Falcon-Emirati-7B 建立在 Falcon-H1-Arabic 的基础上，后者是我们在今年早些时候为阿拉伯语设定新基准的模型家族。Falcon-H1-Arabic 采用 Falcon-H1 混合架构：每个模块内部并行运行状态空间模型（Mamba）和 Transformer 注意力机制，且在每个模块的投影前将两者输出进行融合。这种组合使模型在处理长序列时具备 Mamba 的线性时间效率，同时保留 Transformer 对长距离依赖关系的精确捕捉能力——这对形态丰富的阿拉伯语尤为重要。该家族包含三个规模（3B、7B 和 34B 参数），上下文窗口可达 128K 和 256K 个标记，并已使用大量现代标准阿拉伯语和方言阿拉伯语（海湾、黎凡特、埃及、马格里布）以及英语和多语言数据进行训练。

这为我们提供了坚实的基础：一个已广泛理解阿拉伯语、擅长处理长上下文且内置一定方言接触经验的模型。Falcon-Emirati-7B 在此基础上进一步聚焦阿联酋方言，强化其词汇、语法和文化知识，这些是通用阿拉伯语模型即使再强大也难以自行掌握的深度内容。

我们特别基于 7B 规模的 Falcon-H1-Arabic 构建了 Falcon-Emirati-7B。这是家族中的最佳平衡点：规模足够大，可保留方言适配所需的细微差别；规模又足够小，使训练和推理保持实际可行性。34B 模型可能在质量上更进一步，但训练和部署成本对一个方言专用聊天模型来说并不划算；而 3B 模型则缺乏我们追求的文化和语言理解深度所需的空间。7B 在质量与训练/推理成本之间实现了最佳平衡。

为何方言适配如此困难

将通用阿拉伯语模型转化为阿联酋方言专家，听起来似乎比构建基础模型要简单。实际上并非如此。几个关键因素使这一过程真正具有挑战性：

• 阿联酋方言主要是一种口语方言。与现代标准阿拉伯语（MSA）或其他海湾和黎凡特方言相比，在网络书面语中出现的频率要低得多，因此可供学习的原始文本数量有限。

• 含义往往具有非字面性。习语、谚语和诗歌引用依赖于共享的文化背景，而非表面词汇。

• 没有既定的策略。目前尚无明确的指导方案来确定方言数据的使用量、如何将其与MSA和通用阿拉伯语混合，或在哪些训练阶段（持续预训练、SFT或偏好优化）对学习方言最为关键。

这一点直接影响了我们的工作方式。Falcon-Emirati-7B的构建很大程度上依赖于试错：测试不同的数据组合、训练阶段和监督策略，并结合人工判断和基准测试分数，以确定真正有效的方案。

我们的数据方法

我们在Falcon-H1-Arabic预训练基础上构建了专用的阿联酋数据管道，整合了三个互补的数据来源。

1. 真实的阿联酋方言网络数据

我们爬取并整理了来自阿联酋网站和论坛的原生方言内容（非MSA翻译或转写）。这些数据构成了我们的基准：阿联酋人实际在线写作和口语表达的方式、日常用语、口语表达，以及阿联酋语与MSA之间在实际使用中的自然互动。

2. 关于阿联酋文化与身份的MSA数据

在方言文本之外，我们还引入了专门关于阿联酋文化、传统和语言的MSA内容：涵盖本地习俗、价值观、历史和社会规范的文章和参考资料，包括阿联酋人如何被认知和刻板印象。这些数据不会教会模型使用方言写作，但能帮助模型在涉及阿联酋话题时准确理解相关概念，如传统、礼仪和母语者本能掌握的语境。

3. 由术语表和风格规则指导的合成数据

仅靠真实方言文本不足以覆盖聊天模型日常需要处理的广泛话题。因此我们生成了大量合成的阿联酋方言数据以填补空白。我们并未让生成模型随意使用“海湾风格”的阿拉伯语，而是通过严格规则和专为阿联酋词汇与语法构建的术语表、词典进行约束。这些限制条件决定了合成数据是否能呈现出地道的阿联酋风格，而非仅语法正确却让母语者觉得不自然的输出。

寻找合适的适配方案

由于MSA到方言的适配没有标准方案，我们将训练策略本身视为需要通过实验确定的变量。我们进行了消融实验，测试了方言数据注入量及训练阶段、如何在真实爬取数据与合成数据之间取得平衡以避免模型过度拟合合成模式，以及实际需要多少MSA文化背景信息才能确保模型文化根基而非仅表面流畅。在每一步骤中，我们结合了自动评分和母语者评审，因为仅依赖自动指标难以充分捕捉自然性、语气或文化契合度。

评估方法

我们通过两种互补方式跟踪训练进展：

母语者手动评估

阿联酋本地母语者直接审查了模型输出，不仅判断答案是否正确，还评估其表达是否自然：包括语气、文化适切性等。这些是基准分数无法体现的细节，但母语者能立即察觉。

Alyah上的自动评估

为进行量化跟踪，我们使用了Alyah（الياه，"北极星"），这是我们与社区共同发布的专门用于评估阿拉伯语LLM在阿联酋方言能力的基准测试。Alyah是一个完全由本地母语者手工收集的1,173个样本的多选基准测试，涵盖从日常问候礼仪到比喻语言、遗产知识和阿联酋诗歌等多个类别——这些是方言和文化影响最显著、通用阿拉伯语模型通常表现不佳的领域。Alyah的构建细节和分类说明请参见我们的基准测试博客文章，基础模型家族的背景信息请参见Falcon-H1-Arabic发布说明。

结果

Falcon-Emirati-7B在Alyah上的准确率为84.83%，优于我们比较的所有阿拉伯语和多语言模型，包括多个规模远超它的模型。下图显示了它在Alyah排行榜上与一组代表性指令微调模型的对比位置。

Alyah准确率（%），指令微调模型。由于Falcon-Emirati-7B是基于Falcon-H1-Arabic家族模型构建的，因此本对比中排除了该家族模型。

结果说明

从这个对比中可以发现几个关键点。模型规模本身并不能保证方言能力。一些最大的多语言模型得分远低于更小但更关注方言的模型，这表明阿联酋方言能力必须有针对性地训练，而非单纯依赖模型规模带来的副作用。表现最佳的模型往往本身是阿拉伯语原生或专注于阿拉伯语的模型，这与我们在自身消融实验中观察到的结果一致：通用阿拉伯语和方言覆盖范围是必要的起点，但要弥补剩余差距——特别是在Alyah中最难的诗歌、遗产知识和语言-方言类别本身——仍需要针对特定方言的专项工作。

这与Alyah基准测试更广泛的发现一致：即使表现强劲的模型，在涉及真正方言化、文化嵌入内容时也会出现明显性能下降。这种差距不会随着模型规模增大而自动消失，需要专门针对该方言的数据和评估体系。

超越多选题：LLM作为裁判的评估

多选题准确率只能说明模型是否能在四个选项中识别正确答案，但无法说明当有人直接与其对话时，模型是否能自主生成符合阿联酋阿拉伯语的输出。因此，除了Alyah基准测试，我们还进行了第二项评估：在相同的1,173个Alyah问题上进行开放式生成，由LLM裁判（Gemini 3.7 Flash）对五款模型进行评分，包括Falcon-Emirati-7B、ALLaM-7B-Instruct-preview、gemma-3-27b-it、Jais-2-8B-Chat和Fanar-2-27B-Instruct，这些模型均来自Alyah排行榜上的最强竞争者。

法官从两个独立维度对每个答案进行评分：内容是否正确，以及答案是否实际以阿联酋方言返回而非现代标准阿拉伯语（MSA）。我们同时报告了部分得分（法官评分）和更严格的通过/失败版本，并说明每个模型拒绝回答的频率。

LLM评分的正确性（1,173个Alyah问题，开放式生成，Gemini 3.7作为评分者）。

LLM评分的方言保真度（相同问题）：答案是否实际以阿联酋方言返回，还是默认使用现代标准阿拉伯语？

Falcon-Emirati-7B在正确性上领先，但真正的差距体现在第二张图表中。在方言保真度方面，Falcon-Emirati-7B得分为0.52（部分得分），而ALLaM得分为0.05，gemma-3-27b-it得分为0.03，Jais-2-8B-Chat得分为0.02，Fanar-2-27B-Instruct实际得分为0.00。这并非微小差距，低分端差距接近两个数量级。实际上，这意味着其他模型通常知道正确答案，但默认使用现代标准阿拉伯语回答，即使问题明确以阿联酋方言提出。Falcon-Emirati-7B是五款模型中唯一能可靠使用提问所用方言进行回答的模型。

Fanar-2-27B-Instruct的第二个显著特点是其拒绝回答的频率远高于其他模型，26.2%的提问未作回答，而其他所有模型拒绝率均低于5%。结合其0.27（部分得分）的正确性得分（五款模型中最低），这表明该模型不仅对阿联酋特定内容的参与意愿较低，其能力也明显不足，而非单纯使用错误语域的问题。

按Alyah类别划分的方言保真度（部分得分）。Falcon-Emirati-7B是唯一能持续切换至阿联酋方言的模型；其他模型在几乎所有类别中均保持现代标准阿拉伯语。

按类别细分方言保真度后，这一模式更加清晰。该现象贯穿Alyah所有类别，从日常问候到诗歌均如此，表明这并非针对少数问题类型的特殊技巧，而是模型在预期使用阿联酋方言时默认语域的整体转变。其他模型表现相对较好的"问候与日常表达"类别，恰好是阿联酋方言与现代标准阿拉伯语重叠最多的领域，因此也是通用阿拉伯模型最容易"意外正确"的场景。

按类别逐项对比

作为对同一问题的第三种分析视角，我们进行了模型间一对一的对比评分：对于每个Alyah问题，法官（Gemini 3.7 Flash）会同时看到Falcon-Emirati-7B和竞品模型的回答（不透露来源），并选出更优答案。下图的雷达图显示了Falcon-Emirati-7B与三个竞品模型（Jais-2-8B-Chat、ALLaM-7B-Instruct-preview、Fanar-2-27B-Instruct）在各类别中的胜率对比。

按类别划分的逐项对比胜率，Falcon-Emirati-7B与Jais-2-8B-Chat、ALLaM-7B-Instruct-preview和Fanar-2-27B-Instruct由Gemini 3.7进行一对一评分。

Falcon-Emirati-7B 在大多数类别中均优于所有三个竞争对手，尤其在依赖方言和文化理解的类别中优势显著。与 Jais-2-8B-Chat 相比，诗歌与创意表达（0.69 vs. 0.31）和语言与方言（0.62 vs. 0.38）两个类别差距最大。与 ALLaM-7B-Instruct-preview 对比时，诗歌与创意表达（0.66 vs. 0.34）和语言与方言（0.58 vs. 0.42）同样保持最大优势。面对 Fanar-2-27B-Instruct 时，三组模型对比中差距最为悬殊，Falcon-Emirati-7B 在所有类别中均取得胜利，其中诗歌与创意表达（0.88 vs. 0.12）和宗教与社会敏感性（0.80 vs. 0.20）两个类别优势最为突出。

在问候语与日常表达类别中，竞品模型表现相对接近：Falcon-Emirati-7B 以 0.46 的得分小幅落后于 Jais-2-8B-Chat（0.54），与 ALLaM-7B-Instruct-preview 平分秋色（0.50），但仍以 0.70 的得分明显优于 Fanar-2-27B-Instruct（0.30）。这一结果与上述方言保真度分析中的发现高度一致——问候语是阿联酋方言（Emirati）与现代标准阿拉伯语（MSA）重叠最多的类别，因此也是通用阿拉伯语模型无需专门方言训练即可自然表达的领域。而当方言特征越明显（如诗歌、隐喻语言、文化遗产知识）时，Falcon-Emirati-7B 相比所有竞品模型均展现出清晰的优势。

理解阿联酋文化

语言也涉及对对话背后文化的理解。我们在阿拉伯文化对话数据集（ArabCulture-Dialogue）的阿联酋部分对 Falcon-Emirati-7B 进行了评估，该数据集是阿拉伯语文化理解的基准测试。在多项选择任务中，模型需从三个选项中选择最符合文化规范的回复。更多详情请参阅研究论文。

我们对所有四个模型进行了相同 283 个阿联酋场景的测试，分别使用阿联酋阿拉伯语和现代标准阿拉伯语进行，且包含不同数量的位置信息。

在阿联酋多项选择任务中的整体准确率，综合两种语言变体和所有位置设置的平均值。以下是我们的评估结果。

Falcon-Emirati-7B 得分 85.57%，在四款测试模型中表现最佳，领先于 ALLaM-7B（83.39%）、Jais-2-8B（73.79%）和 Fanar-2-27B（71.50%）。这些结果凸显了该模型在识别阿联酋对话中文化恰当回应方面的能力。

实际效果演示

数字只能讲述部分故事，以下为实时交互式对比：五条真实阿联酋提示语，分别通过 Falcon-Emirati-7B、Fanar-2-27B-Instruct 和 ALLaM-7B-Instruct-preview 进行处理。可通过滑动或使用箭头切换提示语，并展开任意回复以查看完整内容。

交互式对比：Falcon-Emirati-7B 与 Fanar-2-27B-Instruct、ALLaM-7B-Instruct-preview 在五条阿联酋提示语上的表现，涵盖开斋节问候、本地历史、诗歌和文化遗产知识。输出内容为生成结果，可能存在错误；高亮部分标识我们的模型，而非事实性评级。

立即体验 Falcon-Emirati-7B

Falcon-Emirati-7B 已上线我们的聊天平台。🚀 立即体验：https://chat.falconllm.tii.ae/?model=Falcon-Emirati-7B

负责任的人工智能与局限性

与任何语言模型一样，Falcon-Emirati-7B 可能会反映其训练数据中的偏见，并且在某些情况下会出现错误，尤其是在罕见表达、高度本地化引用或我们数据量较少的边缘案例上。在方言和文化细微差别方面存在主观性，即使是母语者也不总能就“正确答案”达成一致。我们建议您在依赖该模型处理任何敏感、官方或高风险任务之前，先针对具体使用场景对模型进行评估。我们真诚欢迎阿联酋社区提供反馈，帮助我们改进模型和 Alyah。

致谢

我们衷心感谢 Mikhail Lubinets 和 Matthieu Berjon 对计算基础设施的持续支持，以及 Jatin Mittal 在通过 Falcon Chat 应用使模型可访问方面提供的帮助。

引用

@misc{falcon_emirati_7b_2026,
  title = {Falcon-Emirati-7B: A Dialect-Specialized Arabic LLM for the Emirati Dialect},
  author = {Shaikha Alsuwaidi, Omar Alkaabi, Maitha Alhammadi, Hamza Alobeidli, Ahmed Alzubaidi, Mohammed Alyafeai, Leen AlQadi, Basma Boussaha, Hakim Hacid}, 
  organization = {Technology Innovation Institute},
  year = {2026}
}

本文提及的数据集

更多该作者的文章

Falcon OCR Arabic：2.7亿参数的阿拉伯语OCR最先进模型

10

2026年10月6日

QIMMA قِمّة ⛰：以质量为核心的阿拉伯语LLM排行榜

13

2026年4月21日

社区

编辑

预览

通过拖拽文本输入框、粘贴或点击此处上传图片、音频和视频。

点击此处上传图片

评论

· 注册或登录以发表评论

• +3