T
traeai
登录
返回首页
MIT Technology Review

教皇《宏伟人性》通谕为个体应对AI时代提供模板

7.8Score

TL;DR · AI 摘要

教皇利奥十四世《宏伟人性》通谕指出“技术从来不是中立的”,呼吁以尼希米重建耶路撒冷的协作模式而非巴别塔式的傲慢应对AI时代;机构投资者已填补监管真空,代表超4000亿美元资产推动科技公司落实AI透明度、人权与环境责任。

核心要点

  • 教皇强调AI是商业产品而非自然力,其风险源于少数企业垄断权力,非技术本身
  • 全球超4000亿美元资产的机构投资者(如Interfaith Center)正通过股东决议推动AI治理
  • 股东已向Alphabet、Amazon、Nvidia等公司施压,要求禁止AI用于暴力、损害医疗公平及高能耗部署

结构提纲

按章节快速跳转。

  1. 教皇利奥十四世在《Magnifica Humanitas》中明确指出‘技术从来不是中立的’,将AI挑战类比为巴别塔(分裂)与耶路撒冷重建(协作)两种路径选择。

  2. 巴别塔象征脱离伦理约束的无限增长导致失败与原子化,而尼希米记中的耶路撒冷重建体现多元主体共担责任、以关系修复为先的协作范式。

  3. 通谕强调AI并非超理性自然力,而是由极少数企业掌控的商业产品,其风险源于经济与社会权力过度集中。

  4. 因政府监管缺位,管理超4000亿美元资产的投资者联盟(如Interfaith Center)正通过股东决议推动AI透明度、人权合规与环境问责。

  5. 股东已向Alphabet、Amazon、Nvidia、Palantir、Uber等公司要求禁用AI实施暴力;向CVS、UnitedHealth施压保障患者权益;向Meta、Microsoft质疑数据中心高能耗问题。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 教皇通谕与AI治理的民间响应
    • 核心理念
      • 技术非中立
      • 巴别塔 vs 耶路撒冷重建隐喻
      • AI是商业产品,非自然力
    • 现实缺口
      • 无AI安全委员会
      • FTC权限有限
      • NIST指南被忽视
      • 欧盟AI法案覆盖窄
    • 投资者行动
      • 4000亿+美元资产联盟
      • 股东决议聚焦:透明度/人权/环境
      • 施压对象:Alphabet, Amazon, Nvidia等
      • 医疗AI:CVS, UnitedHealth

金句 / Highlights

值得收藏与分享的关键句。

  • ‘技术从来不是中立的。’——这一根本主张将AI重新定义为需道德监护的人造产物,而非不可阻挡的自然力量。

    第1段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 代表超4000亿美元资产的跨信仰企业责任中心(ICCR)已在多个股东季提交AI治理决议。

    第5段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 在对伊朗战争初期,AI被用于协助识别数千枚导弹打击目标,造成数百人死亡——凸显AI用于暴力的紧迫人权风险。

    第6段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • AI数据中心消耗巨量能源与珍贵水资源,其环境影响现已被机构投资者视为重大商业风险。

    第7段

    ⬇︎ 下载 PNG𝕏 分享到 X
#AI伦理#公司治理#宗教与科技#ESG投资
打开原文

Pope Leo XIV关于人工智能的新 encyclical 包含了一个值得科技界和政策制定者认真关注的声明:“技术从不中立。” _Magnifica Humanitas_(“辉煌的人性”)是对所有人的 clarion call,号召我们在一个已经被人工智能深刻改变的时代,以勇气和团结精神行动起来。教皇说,我们面前的选择——人工智能呈现的选择——是巴别塔和我们共同人性的重建之间的一个选择。

在圣经的巴别塔故事中,人类试图建造一个直通天堂的庞大建筑,但最终被上帝使他们彼此无法理解,使项目失败。这是一个 fixated 于无情增长的追求,与任何对上帝命令或人类成本的关心无关。结果是失败和原子化。

然而,《尼希米书》提供了另一种叙事,在暴力和流离失所后,耶路撒冷的重建成为展示人类合作弹性的机会。如encyclical 所言:“城市重生,不是通过一个人的倡议,而是通过所有人的共同责任:男女、祭司、工匠、家主和年轻人都参与其中。这是一个以神为中心的事业,先重建关系,然后再用石头重建。”

我们目前是否在 barrels down 任何一条路?我们是否同意一起走另一条路?

我们都是天主教徒,属于宗教社区,并且是社会负责投资运动的长期倡导者。我们对教皇 Leo 的观点特别感兴趣,即人工智能不是某种自然力量或超理性、无法理解的实体。相反,他提醒我们,人工智能最终只是一个商业产品,在一个商业和更广泛社会的过度权力集中在少数几个人手中的历史时刻出现。

这是一个有力的信息。这也是机构投资者多年来一直在行动的信息。这份 encyclical 不tantamount 于 groundbreaking,更多的是确认一个已经 underway 的治理努力,由股东而不是国家或国际机构领导。当政府无法有意义地监管,企业不能信任其超越自身底线的益处时,社会中的人仍然有力量设定正确的路径,并且确实有责任这样做。

在全球范围内,人工智能系统在几乎没有机构监督的情况下大规模部署。没有 AI 安全委员会。美国联邦贸易委员会对不公平行为有管辖权,但对算法设计的权力有限。国家标准与技术研究所发布了大多数公司忽略的指导方针。欧盟 AI 法规部分生效,但只涉及部署表面的一小部分。

机构投资者填补了这一真空。包括 responsible Center on Corporate Responsibility 会员在内的投资者,管理着超过 4000 亿美元的资产,在过去的几个 proxy 季度提交了分辨率,要求对 AI 部署的透明度、风险评估和问责制。世俗的机构投资者也加入了他们,将 AI 治理失败视为重要的业务风险。

股东 вызвали 技术巨头,包括 Alphabet、Amazon、Nvidia、Palantir 和 Uber,要求他们不要将 AI 用于暴力行为或其他侵犯人权的行为。这种方面的企业治理的重要性在伊朗战争的最初几小时tragically 高lighted,当时 AI 被用于帮助识别目标,进行了数千次导弹袭击,杀死了数百人。

投资者也挑战了 CVS 和 UnitedHealth Group 的执行层,确保 AI 不被用来损害患者的健康和美国健康保健的质量。

在 Meta 和 Microsoft 等公司,股东谴责了 AI 数据中心的环境影响,这些数据中心 消耗了大量能源 和宝贵的 水资源,从而可以排放大量温室气体。

在创意产业中,投资者挑战了迪士尼、Netflix 和 Warner Bros. 等公司领导层,要求他们对使用 AI 的方式透明,并维护故事中的独特人类元素。

很快,随着 OpenAI、Anthropic 和 Grok 都准备进入公开市场,我们将在现在都是私营公司的实体上 exert similar influence。

这些行动不仅揭示了错误行为,还坚持了一个不变的真理:使用技术来杀戮、伤害或压迫人是错误的。每个人都享有安全有效医疗保健的权利和获得体面生活的尊严。我们彼此讲述的故事需要人类的创意火花。

投资者倡导者来自各种信仰传统。有些人没有正式的宗教信仰。然而,在他们明智而坚韧的倡导中,所有人都呼应了教宗利奥的通谕中的呼吁,并 acting on its declaration that “it is essential that the use of AI, especially when it touches on public goods and fundamental rights, be guided by clear criteria and effective oversight.”

通谕 marked time. 一百年后,我们如何被记得我们如何应对这一时刻?我们会被视为过于胆小或目光短浅,无法阻止一小群难以想象的 wealthy and self-interested 人们获取对人类家庭共享命运的控制权?

还是 ahead 的年份会被Remembered as a turning point that helped us rebuild our common humanity? 让这成为人们通过自己的 magnificient 人性团结起来,以 honors our Creator 的时刻。

_Father_**_Séamus Finn, OMI_**_,__is a global leader in faith-based and socially responsible investing and a priest of the Oblates of Mary Immaculate, a missionary religious congregation._

_Sister_**_Susan Francois_**_is the assistant congregation leader and congregation treasurer for the Sisters of St. Joseph of Peace._

AI 可能会生成不准确的信息,请核实重要内容

教皇《宏伟人性》通谕为个体应对AI时代提供模板 | MIT Technology Review | traeai