Google DeepMind Blog

From Atari to EVE Online: Building on 15 Years of AI Research in Games

8.5内容质量
From Atari to EVE Online: Building on 15 Years of AI Research in Games

TL;DR · AI 摘要

DeepMind通过15年游戏AI研究推动技术突破,从Atari到EVE Online合作案例揭示AI与游戏开发的协同进化路径。

核心要点

  • DQN算法实现Atari 2600游戏零工程化训练,奠定深度强化学习基础
  • AlphaZero通过单算法掌握围棋/国际象棋/将棋,验证通用AI可行性
  • 与Fenris Creations合作开发EVE Universe,探索AI驱动的开放世界游戏

结构提纲

按章节快速跳转。

  1. 游戏领域为AI研究提供独特实验场,推动DeepMind核心突破。

  2. 从DQN到AlphaStar,游戏成为验证通用AI能力的关键场景。

  3. 与Hello Games等工作室的深度协作推动AI技术落地游戏开发。

  4. 游戏AI研究反哺蛋白质结构预测等跨领域科学问题解决。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 游戏驱动的AI进化
    • 关键技术突破
      • DQN/AlphaGo/AlphaZero/MuZero
      • 跨领域应用案例
    • 产业合作网络
      • Fenris Creations
      • Hello Games
      • Coffee Stain Studios

金句 / Highlights

值得收藏与分享的关键句。

#AI#游戏开发#强化学习#DeepMind
打开原文

2026年8月21日 研究

Alexandre Moufarek 和 Adrian Bolton

从Atari到围棋再到星际争霸,游戏推动了人工智能领域的一些重大突破。现在,我们正与游戏开发者合作,打造能够拓展游戏与AI边界的新玩法体验。

自DeepMind于2010年成立以来,游戏这个既受限又丰富的虚拟世界在理解智能方面发挥了关键作用。它们推动了我们许多重要的AI突破,从掌握Atari游戏到助力解决蛋白质结构预测难题——至今仍是我们的核心研究方向。

游戏开发深深融入GDM的基因。Google DeepMind联合创始人Demis Hassabis本人就是前游戏开发者,GDM团队的许多成员也是如此。我们共同拥有数十年的游戏开发实战经验,并对游戏制作这门艺术怀有深刻敬意。

我们始终明确表示,与游戏开发者建立深度合作是开展AI研究的前提——就像我们近期与Fenris Creations建立的重大研究合作,以及今年早些时候公布的EVE Universe项目,还有与知名工作室如Hello GamesCoffee Stain StudiosFoulball Hangover等展开的合作。

游戏:AI研究的引擎

我们的探索始于一个小团队训练深度神经网络直接通过原始像素玩Atari 2600游戏。深度Q网络(DQN)无需任何特定游戏工程,就学会了玩49款不同游戏——从《Pong》到《Breakout》再到《Space Invaders》。2015年发表在《Nature》的DQN论文推动了现代深度强化学习时代的发展。

此后,我们尝试掌握更复杂的游戏,每个里程碑都催生出更强大通用的系统。2016年,AlphaGo击败世界围棋冠军李世石,这一成就许多专家曾认为还需十年才能实现。AlphaGo Zero通过完全的自我对弈学习,超越了所有先前版本,且未使用任何人类数据。AlphaZero将这一方法推广到国际象棋、将棋和围棋,仅用一个算法就掌握了这三种游戏,而MuZero甚至在不知道规则的情况下学会了游戏。2019年,AlphaStar在《星际争霸II》中达到宗师水平,成功应对了实时复杂性和不完全信息的挑战。

在每款游戏中,AI都丰富了游戏体验。AlphaGo著名的第37手是一个出人意料的落子,专业解说员最初甚至认为这是个失误,这一举动颠覆了围棋数百年来的定论,激发专家探索全新策略。AlphaZero同样在国际象棋领域启发了全新的对局思路。关键的是,这种在游戏领域取得成功的好奇探索精神对其他AI系统产生了深远影响:AlphaFold将这些基础应用到蛋白质结构预测这一持续50年的重大挑战中,该突破成果获得了2024年诺贝尔化学奖。

从掌握游戏到理解游戏

我们早期的工作证明,只要给定明确目标和足够训练,AI就能掌握任何游戏。但现实世界并没有得分系统和规则手册——这促使我们提出一个根本性问题:AI能否像人类一样理解并交互于任何游戏世界?

这就是我们可扩展的可指导多世界智能体SIMA所面临的挑战。SIMA不以追求高分为目标,而是一个通才智能体,它能"看到"玩家在屏幕上看到的画面,理解自然语言指令,并通过普通键盘和鼠标控制进行操作——无需任何API或源代码访问权限。

依托我们的前沿AI模型Gemini,SIMA 2作为交互式伙伴,具备实时推理和对话能力。它能在包括《无人之境》《瓦尔海姆》《水力工程师》等复杂3D研究环境和视频游戏中实现接近人类水平的游戏表现。

对游戏开发者而言,一个真正通用的游戏智能体将解锁能与现有游戏协同工作的AI能力——无需对游戏代码进行任何修改。这将开启全新的游戏玩法,从真正理解游戏世界的AI同伴,到能以脚本系统无法实现的方式适应和响应的非玩家角色(NPC)。

通用游戏智能体还能彻底改变游戏开发方式。在开发阶段,当游戏随着每次提交而变化时,这类智能体可实现真正稳健的质量测试。发布后,当引入新内容或玩家行为不可预测时,它们能实时适应——在无需重新脚本的情况下泛化到新情境。

为安全可靠地开发SIMA智能体,我们与知名游戏工作室展开合作,并正在构建不断增长的游戏组合用于AI研究。这使我们能够不断挑战智能体完成更复杂的任务,这些任务未来可能转移到解决现实世界问题的领域。

与游戏开发者合作探索AI与游戏研究的新前沿

游戏工作室带来了专业的制作技艺、非凡的游戏世界以及对玩家的深刻理解。我们带来了前沿AI技术——从Gemini到生成式交互环境和具身智能体的研究,拥有研究专长以及团队独特的游戏开发背景和多年构建交互环境AI的经验。通过合作,我们专注于发现突破性体验——那些仅凭AI才能实现的前所未见的游戏玩法。

这不是关于技术,而是关于创造有趣的体验。因此,我们与合作伙伴采用“展示而非讲述”的方式。我们的团队与游戏开发者紧密合作,探索新想法并构建可玩的原型,以找到真正有趣的玩法。

我们与Fenris Creations的最新研究合作标志着我们在游戏领域人工智能研究的新篇章。这家独立工作室打造了《EVE Universe》,已投入超过二十年时间构建游戏史上最非凡的持久世界之一。2003年推出的《EVE Online》是一款大型多人太空模拟游戏,数千名玩家共享一个持续演进超过20年的单一宇宙。其由玩家驱动的经济体系包含真实的供需动态和横跨数千个星系的贸易网络。其由联盟、冲突和外交塑造的景观完全由人类互动驱动。

对人工智能研究而言,这是一个黄金机会。这是一个鲜活且持续进化的世界,精准体现了我们认为前沿人工智能必须具备的核心能力:

  • 持续学习:在不断变化的世界中获取新技能而不遗忘已有知识
  • 记忆:跨时间尺度积累和检索知识,远超当前模型的上下文窗口
  • 长期规划:进行跨越数周、数月甚至数年的推理
  • 复杂多智能体动态:在大规模场景中处理合作、竞争、谈判、经济和涌现的社会行为

这些挑战正是我们更广泛研究计划的核心——创建能从经验中持续学习的系统,且学习速度会随时间推移不断加快。我们相信这些前沿能力未来可能解锁全新的游戏体验。

我们的研究合作覆盖Fenris Creations不断扩展的宇宙,为人工智能开发提供多样化的环境。虽然《EVE Online》提供了一个大规模的单一服务器持久世界,但《EVE Vanguard》采用第一人称视角,将战术决策的实时性带入更广阔的持久世界。这为研究跨多个抽象层级的智能体提供了机会,从即时战术到银河级战略。

此外,《EVE Frontier》凭借可编程的"Smart Assemblies"和开放可扩展架构,提供了一个规则本身可以改变的开放环境,要求智能体能适应全新的游戏机制。

与Google DeepMind和Fenris Creations工作坊中的一次"展示而非讲述"环节,我们的团队分享可玩原型、反馈并讨论新游戏体验的想法

我们的合作已为玩家带来实际价值:Aura Guidance系统利用Gemini将玩家生成的知识(基于真实的菜鸟帮助问答)传递给新飞行员。

我们的长期研究计划从一个与真实玩家隔离的《EVE Online》离线实例开始,这是一个安全的沙盒环境。随后将通过《EVE Frontier》研究人类与智能体如何在持久开放世界中共存。只有当能力成熟后,我们才会考虑将其引入《EVE Online》和《EVE Vanguard》,目标是丰富人类玩家的体验。

前路漫漫

游戏一直是对智能的映照。随着游戏变得越来越复杂、持久和开放,我们构建的用于探索游戏的AI系统也呈现出同样的趋势。

我们始终追求同一个终极目标:让AI成为催化剂而非替代者。我们的长期愿景是创造突破性的游戏体验,使游戏更加易用且个性化,并像从AlphaGo到AlphaFold的实践所展示的那样,将游戏中获得的经验应用于现实世界的问题解决,推动科学发现的进程。

感谢所有与我们同行的游戏合作伙伴,特别感谢Fenris Creations加入我们开启新的篇章。我们迫不及待想要分享我们的发现。

致谢

我们希望感谢Google DeepMind内部众多团队多年来在游戏领域推动AI研究安全发展的贡献。

特别感谢所有与我们合作的游戏开发者:Coffee Stain(Valheim, Satisfactory, Goat Simulator 3),Fenris Creations(EVE Online, EVE Vanguard, EVE Frontier),Foulball Hangover(Hydroneer),Hello Games(No Man's Sky),Keen Software House(Space Engineers),RubberbandGames(Wobbly Life),Strange Loop Games(Eco),Thunderful Games(ASKA, The Gunk, Steamworld Build),Digixart(Road 96),以及Tuxedo Labs & Saber Interactive(Teardown)。