AI Snake Oil

A guide to understanding AI as normal technology

7.5内容质量
A guide to understanding AI as normal technology

TL;DR · AI 摘要

文章探讨了AI作为正常技术的含义及其社会影响,强调了AI的社会效应难以预测,且需要机构和政策制定者灵活应对。

核心要点

  • AI的社会效应难以预测,需要灵活应对。
  • AI的发展比其社会影响更可预测。
  • AI的社会影响预测不总是准确的。

结构提纲

按章节快速跳转。

  1. 文章介绍AI作为正常技术的概念及其影响力。

  2. AI的社会效应难以预测,需要灵活应对。

  3. AI的发展比其社会影响更可预测。

  4. AI的社会影响预测不总是准确的。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • AI作为正常技术

金句 / Highlights

值得收藏与分享的关键句。

  • Indeed, unpredictable societal effects have been a hallmark of powerful technologies ranging from automobiles to social media.

    第 2 段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • The development of technical capabilities is more predictable than AI’s social impacts.

    第 4 段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • His predictions about the tech itself proved eerily accurate, but the predictions about social impacts were overall not directionally correct.

    第 5 段

    ⬇︎ 下载 PNG𝕏 分享到 X
#AI#社会影响#政策
打开原文

当我们发表了《人工智能作为常规技术》这篇文章时,其影响力超出了我们的预期。它很快成为我们两人迄今为止最有影响力的作品之一。1 我们将其视为一个强烈的信号,表明我们应该花更多时间思考和撰写关于人工智能的中期未来及其影响的文章,提供对一个往往吸引猜测的话题的扎实分析。这标志着我们的关注点从撰写关于人工智能的当下和近期影响的文章上转移了,而《人工智能蛇油》项目正是关于这个主题的。

为了反映这一转变,我们已经重新命名了这份通讯。我们已经发表了两篇后续文章《通用人工智能不是里程碑》《人工智能是否减缓科学进步?》,并计划随着我们将框架扩展成一本书而更频繁地发布文章,该书预计于2026年底完成,并于2027年出版。

今天,我们将解决关于人工智能作为常规技术的常见困惑,尝试使原始文章更容易理解,并将其与《人工智能2027》进行比较。

目录

  1. “常规”并不意味着平凡或可预测
  1. 重申我们的论点
  1. 如果你对GPT-5失望后转向了人工智能作为常规技术的观点,那么你可能并没有完全理解这个观点
  1. 为什么很难找到人工智能作为常规技术和人工智能2027之间的中间立场
  1. 当你坚定地相信一种世界观时,很难理解另一种世界观
  1. 收获人工智能的好处需要艰苦的工作和痛苦的选择
  1. 关于扩散速度的荒诞辩论
  1. 为什么人工智能的采用会有所不同
  1. 总结性思考

虽然这篇文章讨论了我们所说的“常规”的含义(详见下文),但我们本可以更明确地指出它并不意味着什么。

我们的观点并不是“没什么可看的,走开”。的确,不可预测的社会效应一直是汽车到社交媒体等强大技术的标志。这是因为这些效应是技术与人之间复杂互动的涌现结果。仅凭技术本身的逻辑往往无法预测这些效应。这就是为什么拒绝技术决定论是我们关于常规技术文章的核心前提之一。

以人工智能为例,特别是聊天机器人,我们已经看到了一些社会效应的涌现。人工智能伴侣的普及以及模型谄媚导致的一些有害效应,例如“人工智能精神病”,让大多数观察者感到[意外]。2 另一方面,许多广泛预测即将发生的危险,比如人工智能用于操纵选举,却[没有实现]。3

即使基于当前能力而非未来能力,人工智能在未来3-5年内社会影响的图景也难以预料。

技术能力的发展比人工智能的社会影响更可预测。《人工智能2027》一书的作者之一丹尼尔·科科塔吉洛(Daniel Kokotajlo)曾在2021年的文章《2026年会是什么样子》中因对未来技术的预测而闻名。他对技术本身的预测非常准确,但关于社会影响的预测总体上方向不正确,这一点他在与我们其中一位的播客讨论中大方承认。

所有这些都使得人工智能对于机构和政策制定者来说是一个更加严重的挑战,因为他们必须灵活应对不可预见的影响,而不是依赖预测的虚假安慰或试图防止所有伤害。总的来说,能够促进这种适应性的政策方法被称为韧性,这也是我们文章所倡导的。然而,尽管我们强调韧性是应对潜在灾难性风险的方法,但我们应该更清楚地表明,韧性在处理更分散的风险方面也扮演着重要角色。

也许一些读者误解了我们对可预测性的看法是因为“常规”这个词。再次强调,我们的目标并不是轻视个人和集体适应人工智能的任务。在一个理想的世界里,一个更好的标题可能是“人工智能作为技术”,但我们认为这并不能有效地传达出我们的目标是提供一种替代方案,以对抗目前主导讨论的超级智能世界观中的特殊主义。

如果我们提取并简化我们的核心论点,可能会是这样的:

在人工智能能力提升和社会影响之间存在着一条漫长的原因链。当人工智能被部署时,利益和风险才会显现出来,而不是在开发阶段。这给了我们(个人、组织、机构、政策制定者)许多可以利用的杠杆点来塑造这些影响。因此,我们不必过多担心能力发展的速度;我们的努力应该更多地集中在部署阶段,从实现人工智能的好处和应对风险的角度来看。所有这些不仅适用于今天的AI,即使面对假设的发展,比如人工智能能力的自我改进也是如此。许多对人工智能系统能力的限制是在这些系统之外的,因此仅靠人工智能去改进自己的技术设计是无法克服这些限制的。

这个框架的某些方面最终可能需要修订,但这超出了我们可以有意义地预见或准备的时间范围:

在第二部分中描述的世界是一个人工智能远比今天先进得多的世界。我们并不声称人工智能的进步——或者人类的进步——会在那个点停止。之后会发生什么?我们不知道。考虑这个类比:在第一次工业革命的黎明时期,尝试思考一个工业化世界会是什么样子以及如何为此做准备是有用的,但试图预测电力或计算机则是徒劳的。我们在这里所做的练习与此类似。由于我们拒绝“快速起飞”情景,我们认为没有必要或有用去构想一个比我们试图构想的更远的世界。如果和当我们在第二部分中描述的情景成为现实时,我们将能够更好地预见和准备接下来发生的事情。

总之,我们要重申的是,这一论点的核心是理解人工智能与社会关系的基本因果框架,而不是它可能会或不会产生的具体影响。在我们看来,如果你分享这种因果理解,你就认同了正常技术的论点。我们发现,这一框架确实被广泛共享,尽管通常是隐含的。

这使得该论点在许多读者看来几乎是同义反复。我们在提出一个我们认为——以及那些读者也应该认为——非常微弱的主张!没有认识到这一点会导致读者寻找我们所说的“正常”的更具体含义。但我们并没有这样做。我们并不是将技术分类为“正常”和“异常”,然后把人工智能归入“正常”类别。我们只是说我们应该像对待其他强大的通用技术一样对待人工智能。

这不仅仅适用于大型语言模型或任何特定类型的AI。顺便说一句,这就是为什么标题是“人工智能作为正常技术”而不是“人工智能作为一种正常技术”。我们的观点适用于统称为人工智能的所有技术,以及其他类似的即使不被称为人工智能的技术。

如果我们世界观几乎是同义反复,为什么还要陈述呢?因为这与超级智能世界观形成对比。这就是世界观的特点:存在相互矛盾的世界观,而每个世界观对于其支持者来说似乎都是同义反复。

值得注意的是,在GPT-5发布后,我们的文章引起了广泛关注,合理的推测是至少有些人是因为对发布的失望而稍微改变了他们的观点。

这很奇怪!这不是第一次发生这种情况——我们之前曾表示怀疑基于几乎没有任何新信息的情况下发生的关于扩展的叙事转变。如果一个产品的单一更新就能改变人们对人工智能发展轨迹的看法,那么人们最初的基础证据有多可靠?

正常技术框架预测缓慢时间线的原因不是因为能力会达到极限,而是即使能力继续快速发展,影响也会缓慢且逐步。因此,我们不认为对新发布的失望会使你更加同情将人工智能视为正常技术的观点。同样,明天宣布的一项新突破也不应使你对我们观点更加怀疑。

理解GPT-5的最佳方式是将其视为人工智能开发者从模型转向产品重点转移的一个特别好的例子,这是我们一年前就写过的。自动模型切换器对ChatGPT的日常用户来说意义重大。事实证明,几乎没有人在首次发布近一年后仍在使用“思考”模型,而GPT-5大幅提高了它们的使用率。

一些交流中,Altman明确表示GPT-5的重点是可用性,而不是能力上的飞跃,尽管这一信息不幸地被不断炒作所削弱,导致了失望。

这种行业更广泛的转变实际上与公司本身(虽然不情愿地)开始承认成功之路可能是通过艰难的产品建设和推广采用,而不是竞相建立AGI或超级智能并寄希望于它扫除任何扩散障碍高度一致。讽刺的是,在这个叙述中,GPT-5是一个成功的例子,而不是失败的例子。

事实上,模型开发者已经开始超越开发更有用的产品(我们技术发展与采用框架的第二阶段),并开始与部署者合作以减轻早期采用的痛点(第三阶段)。例如,OpenAI 的“前线部署工程师”(Forward Deployed Engineers)与客户如约翰迪尔公司以及农民直接合作,集成并部署功能,如提供个性化的农药使用建议。

许多人试图在AI 2027和人工智能作为普通技术这两种观点之间提出中间立场,或许认为它们是观点光谱的两端。

这出乎意料地难以做到。AI 2027 和人工智能作为普通技术都是连贯的世界观。它们代表了对技术如何影响社会的不同因果理解。如果你尝试混合搭配,可能会导致内部不一致的杂糅体。(顺便说一句,这意味着如果我们最终错了,更有可能是全面错误而不是部分错误。)

此外,只有在硅谷的泡沫中,人工智能作为普通技术才被视为一种怀疑的观点!我们在文章的第二句中将人工智能比作电力,并且在全文中明确表示我们预计它会产生深远的影响。我们对人工智能对劳动力影响的预期似乎处于经济学家在这个话题上的预期范围的较激进一端。

简而言之,如果你正在寻找一个中立的立场,我们鼓励你完整阅读这篇文章。不要让标题误导你认为我们是人工智能怀疑论者。也许你会得出结论,人工智能作为普通技术就是你所寻求的中间立场。

我们意识到,两种最广泛讨论的人工智能未来框架如此截然不同,这可能令人不安。(我们的文章本身在第四部分关于政策的部分对此进行了大量评论。)我们可以提供一些安慰的想法:

  • 我们在许多方面与AI 2027的作者有共识。我们正在起草一份联合声明来概述这些领域。我们要感谢Nicholas Carlini组织了这项工作。
  • 在我们看来,信念上的共识不如政策上的共同点重要,即使在信念存在差异的情况下也是如此。即使是相对“简单”的政策干预,如果各方能够达成一致,实际上也将是一个巨大的挑战。如果我们无法实现这些,那么那些担心即将出现超级智能的人所支持的更为激进的措施就几乎没有希望了。
  • 有一些持续的努力旨在识别分歧的关键点,并就可能帮助裁决这两种世界观的指标达成一致。我们参与了一些这样的努力,并期待继续这样做。我们要感谢Golden Gate Institute for AI在这方面所做的努力。
  • 说到制定指标,我们正在扩大HAL项目的愿景,即整体代理排行榜。目前它试图成为一个更好的AI代理基准管理系统,但新的计划是将其发展成一个预警系统,帮助AI社区识别何时AI代理在各个领域的实际应用中达到了具有变革性影响的能力阈值。

我们认为这些能力阈值是产生影响的必要但不总是充分条件,当它们达到时,将更加尖锐地考验我们关于非技术障碍(包括收益和风险)的假设。

  • 需要注意的是,HAL并不是关于预测;它是关于对当前情况的态势感知。这是我们工作的主题之一。人工智能讨论的显著之处,在我们与AI 2027的对比中尤为明显,不仅在于对未来看法的多样性,还在于关于我们能观察到的事物的看法,比如扩散速度(下面会详细讨论)。除非我们作为一个社区在测量当前情况和测试竞争性的因果解释方面取得显著进步,否则用于预测的能量将被误用,因为我们缺乏解决这些预测的方法。例如,我们曾争论过,即使事后我们也未必知道是否已经建成了“通用人工智能”即使事后。这些局限性在一定程度上是由于像通用人工智能这样的概念缺乏精确性,但同时我们也确实可以做得更好。

我们写道:

人工智能作为普通技术是一种世界观,与即将来临的超级智能的人工智能世界观形成对比。世界观由其假设、词汇、证据解释、认识工具、预测(可能还有价值观)构成。这些因素相互强化,形成了每个世界观内的紧密捆绑。

这使得跨世界观的沟通变得困难。例如,我们经常从AI 2027的人那里收到的一个问题是他们认为世界在2027年会是什么样子。嗯,大概就像2025年的世界一样,我们回答。然后他们会让我们考虑2035年或2045年,或者任何他们认为世界将发生转变的年份,并认为我们框架的不足之处在于没有提供具体的情景。

但这种情景预测只是在其世界观内才有意义的活动。我们对那些我们认为可以具体化的事情非常具体。同时,我们强调人类、机构和政治行动在使截然不同的未来成为可能中的作用——包括AI 2027。因此,人工智能作为普通技术既是一种处方也是一种预测。

这些沟通困难在考虑 AI 2027 作者之一斯科特·亚历山大的回应时需要牢记于心,他在回应中将人工智能视为正常技术。我们毫不怀疑这是一次善意的对话尝试,并且感谢他投入的时间,但不幸的是,我们觉得他的回应大部分都是对我们视而不见。他认为分歧的关键点与我们认为的关键点大相径庭!因此,我们不会逐点回应,因为我们可能会反过来对他视而不见。

但我们很乐意参与有主持人的对话,这是我们过去一年成功进行了8到10次的对话格式。这种同步的方式使我们更容易理解彼此。而且,私人对话在公开之前会被编辑,这使得双方在寻找对方观点的理解时更容易提出愚蠢的问题。

无论如何,以下是亚历山大回应中几个重要的方面,这些方面让我们感到他并没有真正理解我们的观点。递归自我改进(RSI)是亚历山大观点中的一个关键分歧点,他惊讶于我们在文中几乎没有提到这一点。公平地说,我们在论文中本可以更明确地表达我们对 RSI 的看法。简而言之,我们认为 RSI 不会导致超级智能,因为构建和部署强大 AI 系统的外部瓶颈无法通过改进其技术设计来克服。这就是为什么我们很少讨论它。3

虽然 RSI 对我们来说不是关键点,但在论文中我们解释了为什么我们认为 AI 社区距离 RSI 还很远。最近,我们一直在思考需要解决的根本研究挑战,发现比我们预想的要多得多。还应记住的是,AI 社区可能在找到新范式方面比其他科学社区尤其差。同样,这也是我们希望我们的项目 HAL 能够发挥作用的领域,以衡量进展。

另一个亚历山大回应中没有真正理解的话题是扩散速度,我们在下面简要评论过,并将在未来的一篇文章中详细讨论。

跨世界观交流困难的最佳例证是亚历山大对我们关于超人类 AI 能力是否可能在预测或说服等任务中实现的假设的讨论。读了他的回应几次之后,我们很难弄清楚我们到底在哪里达成了一致,在哪里存在分歧。我们写道:

我们认为现实世界中有相对较少的认知任务,人类的局限性如此明显,以至于 AI 能够超越人类的表现(就像 AI 在国际象棋中所做的那样)。……具体来说,我们提出了两个这样的领域:预测和说服。我们预测 AI 在预测地缘政治事件(比如选举)时,无法显著超越训练有素的人类(尤其是团队合作的人类,特别是如果使用简单的自动化工具)。对于说服人们做出违背自身利益的行为这一任务,我们也做出了同样的预测。

你可以阅读他在论文第 3B 部分的完整回应,但简而言之,他的重点在于人类生物学的限制:

人类的能力是通过数千年在非洲大草原上的进化获得的。大草原上没有特别的压力去“在预测竞赛中尽可能获得最高的布赖尔分数”,也没有特别的理由认为人类已经达到了这一点。事实上,如果过去 10,000 年间农业发展导致人类智力提高的证据证明属实,那么人类肯定没有在非洲大草原上达到宇宙极限。为什么我们应该认为这最后一轮非常短暂的选择恰好正确?

但是,拒绝将人类能力视为生物学上的约束是我们与亚历山大观点的重要分歧点,我们在“人类能力不受生物学限制”一节中详细描述了这一点。这就是跨世界观讨论的问题所在:如果你忽略特定陈述的前提和术语澄清,仅从你自己的世界观来解读它,就会觉得你的对手是无知的。亚历山大是否认为我们认为如果一个生活在大草原上的人穿越到现在,他们就能预测选举?

他确实强调了人类表现不是固定的,但他似乎将其视为对我们论点的反驳(而不是核心部分)。也许是因为我们的假设,即人类在预测方面的表现接近“不可减少的误差”。我们并没有暗示预测的不可减少误差是一个固定不变的数字。当然,这取决于可用的数据——更好的民意调查会带来更好的预测——以及有助于利用更多数据的培训。其中一些培训甚至可能是由 AI 支持的研究带来的。我们在原始论文中强调,人类智能之所以特殊,不是因为我们的生物学,而是因为我们(偶然)掌握了包括 AI 在内的工具。因此,AI 的进步通常会改善人类智能(能力),并且有可能改善我们所提出的比较中人类和 AI 两方面的表现。

我们的假设很简单:我们认为预测并不像国际象棋那样,大量的计算可以给人工智能带来决定性的速度优势。预测的计算结构相对简单,尽管通过训练和数据可以极大地提高性能。因此,由经过适当培训的专家预测团队掌握的相对简单的计算工具可以榨取出(几乎)所有可榨取的价值。

我们很高兴亚历山大的回应中称赞我们“在合作可能性上言行一致”。这种情感是相互的。我们期待继续这种合作,我们认为这比Substack上的反驳和反反驳更有成效。

我们的框架有两个主要影响方面:一个是经济和劳动力方面,另一个是安全方面。一旦我们超越了一些基本前提(特别是,根据定义超级智能要么是不连贯的,要么是不可能的),这两个方面的影响论据就大不相同了。

关于经济影响,我们的观点大致是,通过能力提升无法克服扩散障碍。至于安全方面,我们的观点主要是,实现AI控制而不进行对齐不仅是可能的,而且似乎并不特别困难,也不需要科学突破。

由于这两组论点重叠不多,因此接受一组论点而不接受(或持模棱两可态度)另一组论点是有道理的。事实上,我们对经济影响的看法似乎与读者产生了强烈的共鸣。自文章发表以来,我们与许多负责各个行业AI战略的人进行了讨论。我们发现他们对AI的看法与我们一致,但由于各种炒作,他们开始质疑自己的方法。我们的文章提供了一个连贯的框架,支持他们的直觉以及他们在实际操作中的观察。4

虽然部署AI的人士对技术开发和扩散之间的区别有深刻的理解,但我们的框架进一步将每个阶段分为两个步骤。在开发方面,我们强调模型与产品之间的差距,或者说是能力和应用之间的差距。在扩散方面,我们将用户学习曲线与其他方面的适应性区分开来,这些适应性涉及个人层面的变化,以及可能需要集体行动的结构性、组织性或法律性变化。我们展示了在四个阶段中运作的各种速度限制。

虽然用户行为至少倾向于缓慢而可预测地改变,但解决协调问题或改革僵化的机构——这也是有效技术采用的前提条件——则更加不确定。例如,考虑空中交通管制系统仍然停留在20世纪中期的技术,尽管现代化不足带来的巨大成本已经显而易见。

虽然我们的文章指出AI存在类似的扩散障碍,但我们只是现在才开始详细阐述这些障碍并识别可能必要的具体改革措施。我们将在这一领域撰写更多内容,其中一些内容将与贾斯汀·柯尔合作完成。

必须记住的是,高级AI进入的是一个高度技术和高度监管的世界。我们反复发现,AI处理的工作流程部分不太可能是瓶颈,因为通过早期的技术浪潮已经解锁了大量的生产力收益。与此同时,实际的瓶颈由于监管或其他外部约束而变得难以攻克。在许多特定领域,包括法律服务科学研究,竞争动态如此强烈,以至于AI带来的生产力增长导致军备竞赛升级,最终并未转化为社会价值。

我们多次提到不同阵营对当前AI影响的描述存在分歧。这一点在扩散速度上尤为明显。AI支持者认为它正在前所未有的快速普及。我们完全不同意。更糟糕的是,随着越来越多证据的出现,每一方似乎都对自己的解释更加确信。

我们正在深入分析扩散速度。目前,我们指出了一些常见的论点和统计数据中存在的基本谬误,这些论点和统计数据被用来证明“快速普及”的解释。

首先,部署不等于扩散。通常,当人们谈论快速普及时,他们只是指当能力开发出来后,它们可以近乎即时地部署到产品(如聊天机器人)中,这些产品被数亿用户使用。

但这并不是扩散的意义。知道有多少人可以访问这些能力是不够的:重要的是有多少人实际使用它们,他们使用它们的时间有多长,以及他们用它们做什么。当我们深入研究这些细节时,情况看起来非常不同。

例如,在备受瞩目的ChatGPT“思考”模型发布近一年后,每天使用的用户不到1%! 我们虽然支持我们的论点,但并不以此为乐。作为AI的热心早期采用者,这样的数字低得令人难以直观理解,坦率地说,相当令人沮丧。

另一个误导性统计数据的例子与某些高风险领域中使用人工智能的工人比例有关。这类统计数据往往被用来支持“人工智能正在以危险方式迅速普及”的论点。但在这些高风险领域中,大多数任务实际上是平凡无奇的,当我们深入研究具体应用时,它们似乎并不那么危险。

例如,美国医学协会的一项调查显示,大多数医生都在使用人工智能。但这包括诸如转录口述笔记之类的事情。5 这还包括向聊天机器人寻求诊断的第二意见(2024年约有12%的医生报告了这种用例,比2023年的11%增加了1个百分点)。这显然比转录更严肃一些,但仍然非常合理。正如我们之前指出的,即使不可靠的人工智能也非常有助于错误检测

对于这些任务增加采用人工智能并不意味着医生会开始随意使用它,并通过将决策委托给ChatGPT来放弃对患者的职责。绝大多数医生明白这两种用途之间的区别,而且在医学界存在许多重叠的安全措施,防止不负责任的广泛使用,包括医疗事故责任、职业准则和医疗器械监管。

所有误导性“快速采用”迷思中最令人误解的可能是这个广为流传的图表,显示ChatGPT在大约两个月内达到了1亿用户:

图像 1
图像 1

该图表将ChatGPT用户增长与(1)Instagram、Facebook和Twitter进行了比较,这些都是依赖网络效应的社交媒体应用,因此其增长速度通常比从第一天起就有用的应用慢得多;(2)Spotify,一个最初仅限邀请的应用;(3)Netflix,一个初始库存有限且需要订阅才能使用的服务。6

图表反映的是那些如果周围有传闻就会尝试新应用的早期用户。而关于ChatGPT的传闻非常强烈。一旦这些好奇的早期用户耗尽,增长曲线看起来就完全不同了。事实上,一年后,ChatGPT的用户数量仅从1亿增长到2亿,这意味着曲线明显向右弯曲。然而,这个图表只反映了前两个月的数据,因此没有捕捉到这一变化。

如果这张图表能给我们任何证据表明扩散的常规障碍已经被削弱或消除,那它将是有用的。但它并没有。两个月的时间还不足以让扩散的艰难部分开始,比如用户适应工作流程以有效地整合人工智能。因此,这张图表与任何有意义的扩散速度讨论无关。

这张图表还有许多其他问题,但我们在这里就不再赘述。7 再次强调,这远不是对人工智能扩散速度的完整分析——那将在后续内容中呈现。目前,我们只是想指出,对该主题的大部分评论都是不认真的。如果连我们有数据的问题都如此,那么不同阵营对未来预测的巨大差异也就不足为奇了。

为什么“快速扩散”这一迷思如此普遍和持久?因为人工智能的采用感觉像是一场海啸,而个人电脑、互联网或社交媒体从未有过这种感觉。当人们直觉上相信某事时,他们会对那些声称证实这种感觉的数据或图表持更少的怀疑态度。

当然,我们理解这种感觉。我们自己的人工智能体验与过去的技术浪潮不同。起初,我们认为这是认知偏差。我们所经历的任何变化都会感觉比过去成功适应的变化更大。

我们现在意识到我们错了。认知偏差可能只是解释的一部分,但人工智能的采用确实感觉更快、更可怕。简而言之,虽然部署并不等于扩散,但在过去,逐步部署意味着用户不会被迫不断做出是否采用的决定,但现在这种缓冲已经被消除了。让我们通过与互联网采用的比较来解释这一点。

那些在90年代采用拨号上网的人可能会记得这样一个故事。当我们第一次听说这项技术时,我们被个人电脑的高价格吓到了。但随着时间的推移,这些价格逐渐下降。同时,我们在工作或朋友家体验了互联网的使用。因此,几年后当我们购买个人电脑和拨号上网服务时,我们已经有一些使用经验了。起初,拨号上网速度慢且费用高昂,而且网站也不多,所以我们并没有频繁使用互联网。但随着价格的降低、带宽的提升以及更多内容上线,我们学会了如何安全有效地使用互联网。

在2020年代采用通用人工智能工具则是一个截然不同的体验,因为新功能的部署几乎是即时的。人们必须花费更多的时间来评估是否应该采用AI来解决特定问题,并且不断被告知如果不采用AI就会落后。

我们之前提到的所有观点仍然成立——学习曲线存在,人类行为需要很长时间才能改变,组织变革甚至更长。但是不使用AI已经成为一种主动的选择,人们不能再以尚未获得访问权限为借口不去考虑它。

简而言之,部署只是扩散过程中的一个步骤,虽然消除了这个瓶颈可能使扩散稍微加快了一些。但由于一旦听到某个AI用例,就必须立即决定是否采用它,这使得整个过程感觉上快得多,即使最终大多数情况下,人们由于各种理性和非理性原因选择不采用。

我们确实同意AI支持者的一个观点,那就是AI不会消失,也不会像加密货币那样成为大多数人可以忽略的利基市场。现在,生成式AI带来的集体初始冲击已经过去,我们需要有条理地思考AI的影响如何展开,而不是对每个新的技术能力或社会效应做出过度反应。

我们将继续在本通讯中阐述的“AI作为普通技术”框架就是一种这样的方法。至少作为一种基于历史背景的默认方式来思考技术的社会影响是有价值的,其他更为例外主义的观点可以与之比较。该框架为商业领袖、工人、学生、关注AI安全或AI伦理的人以及政策制定者等提供了某种程度的实际指导。我们希望您能跟随并参与讨论。

感谢Steve Newman和Felix Chen对我们草稿的反馈。

  • Arvind在世界银行发展会议上发表了论文,重点讨论了经济和劳动力影响。
  • Arvind的新YouTube频道Arvind On AI基于普通技术视角讨论AI的发展。
  • 我们有幸让AI作为普通技术得到了媒体报道:
  • 在《纽约客》杂志中,Joshua Rothman对比了AI 2027与AI作为普通技术。
  • 在《展望杂志》中,Ethan Zuckerman讨论了将AI视为普通技术的实用性。
  • 我们与许多持有超级智能世界观的人进行了交谈,包括AI 2027的许多作者。Sayash辩论了Daniel KokotajloEli Lifland;Arvind辩论了Daniel Kokotajlo,并在Asterisk Mag中,Arvind和Ajeya Cotra辩论了AI进步是否有速度限制,以及我们如何知道这一点。

1

正如经常发生的那样,成功在很大程度上归功于偶然的时间安排。这篇文章发布于《AI 2027》两周之后,但这纯属巧合——我们的出版日期实际上是基于 Knight 研究所关于 [人工智能与民主自由] 的研讨会(https://knightcolumbia.org/events/artificial-intelligence-and-democratic-freedoms)。我们感谢研究所提供发表这篇文章的机会。

2

总体而言,聊天机器人的心理健康问题,以及诸如成瘾等问题,已经得到了广泛的认识和讨论,包括在我们的著作《人工智能蛇油》中。这些问题通常基于与社交媒体的类比。但预测具体会出现哪些影响以及如何避免它们,与预见心理健康影响是不同的。

3

话虽如此,我们承认我们的整个论点可能是错误的,如果实现RSI的可能性更大,那么我们出错的可能性也更大。

5

尽管这里仍然存在风险,但我们认为这确实是医生应该探索的应用领域。

6

事实上,还有其他一些应用的初始增长速度与ChatGPT一样快,甚至更快,比如Pokemon Go和Threads(后者借助Instagram起步,因此并不依赖网络效应)。但同样,我们更大的观点是,这种比较不具备信息价值。尽管Threads初期增长迅速,最终还是未能取得预期的成功。

7

坦率地说,在我们看来,这张图表中更令人印象深刻的数据是Instagram仅用2.5个月就达到了百万用户。考虑到那是2010年,那时手机网速较慢,应用程序仅限于iPhone(!),并且主要在美国18至34岁的年轻人中传播。