Astral Codex Ten

Never Cross a River Four Feet Deep on Average

7.0内容质量
Never Cross a River Four Feet Deep on Average

TL;DR · AI 摘要

一项试图复现2023年脑波学习研究的项目失败,原研究数据可能被统计摘要掩盖,真实效果存疑。

核心要点

  • 原研究可能因数据被统计摘要掩盖而无法复现。
  • 使用脑波同步光闪烁可能无法提升学习效率。
  • 复现成本高昂,但早期数据审查可能发现异常。

结构提纲

按章节快速跳转。

  1. 介绍2024年ACX项目试图复现2023年脑波学习研究的背景与动机。

  2. 原研究通过脑波同步光闪烁,试图提升感知学习效率。

  3. 复现项目未能成功,原研究数据可能被统计摘要掩盖。

  4. 使用EEG帽记录脑波,并通过光闪烁同步脑波频率。

  5. 参与者需在短时间内区分不同模式,任务难度较高。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • 脑波学习研究复现失败
    • 原研究背景
      • 脑波同步光闪烁
      • 提升感知学习效率
    • 复现结果
      • 数据被统计摘要掩盖
      • 复现成本高昂
      • 效果可能不真实

金句 / Highlights

值得收藏与分享的关键句。

#神经科学#脑波#学习效率#研究复现
打开原文

切勿因平均四英尺深而渡河

客座文章由 Alexander "Sasha" Putilin 撰写

Scott Alexander

Sasha Putilin

2026年6月16日

[这是一篇由2024年ACX资助获得者Sasha Putilin撰写的客座文章。我鼓励任何有兴趣的ACX资助获得者撰写有关他们项目的文章。- SA]

我2024年ACX资助项目的成果已经出来了。

该项目试图复制2023年的研究“在你的大脑节律中学习:个性化同步提升感知决策的学习效果”。该研究声称,如果你读取一个人的脑电波,找出其个体的α波峰值频率,并以该频率闪烁明亮的白光,那么他们就能更快地学习某种感知任务。

为什么这样做?结果暗示学习可能部分取决于大脑维持节律协调的能力。换句话说,感知学习可能依赖于大脑内部的节拍器。如果闪烁的光能作为外部的节拍器,它可能帮助大脑维持正确的节律并更快学习。

这项研究向我们发出了一个开发神经科学和生物黑客新前沿的邀请。如果这种效果能推广到其他类型的学习,你就可以制造一个学习头盔:戴上它,让它读取你的脑电波,根据你个人的大脑频率闪烁灯光——你就能更快地学习新技能。

不,它没有成功复制。很可能无法复制,因为这种效果可能并不存在。原始研究用总结性统计数据掩盖了数据。花费32000美元进行复制研究是过度的。如果我们只是仔细查看原始数据,就能发现这个问题。

*记录划过* *定格画面* 是的,那就是我。你可能在想,我是怎么到这里来的。这是我的故事。

原始研究

“在你的大脑节律中学习”测试了参与者学习人工任务的能力——区分径向和同心图案。

左边的图案很容易区分——它们是原型。右边的图案更接近实际任务。它们在噪声中掩盖了底层的图案,噪声水平在约75%左右波动。参与者需要快速分类图案:它们只在屏幕上显示200毫秒,之后他们有1.3秒的时间选择答案。

在研究过程中,参与者佩戴了脑电图(EEG)帽——一种记录他们大脑节律的头皮电极网格。EEG用于调整闪烁频率以适应每个人自己的α波频率,并跟踪他们在学习过程中的大脑活动。

他们的EEG帽可能看起来像这样

研究中使用的视觉识别任务是那种已知由α波节律支持的感知学习:一种每秒8至12次的脑波,其中神经元群体的兴奋性会增强和减弱。研究人员测量了每位参与者的α波节律,然后进行了同步实验——即通过外部节奏信号(在此案例中是闪烁的光)使脑波同步的实践。视觉神经元自然会对闪烁的光作出反应,因此与一个人自然α波节律接近的闪烁可以增强它或使其偏离节拍。

研究人员还尝试将图案的时间安排与α波节律的峰值或低谷同步。他们测试了20名参与者的四个小组——三种同步条件加上一个对照组:

  • 对照组:灯光随机闪烁,与α波节律无关。
  • P-match:灯光以α节律的频率闪烁,从而增强该节律。随后,图案在下一个α周期的峰值时显示。
  • T-match:灯光同样以α节律的频率闪烁,再次增强该节律,但图案在周期的谷值时显示。
  • T-nonMatch:灯光以偏离α节律±1 Hz的频率闪烁,促使参与者维持一种对他们来说不太自然的α节律。图案在周期的谷值时显示。

来自论文。15次闪光使α节律同步。随后,节律在没有同步的情况下持续1-3个周期。然后显示图案。

使用无节律对照组可能会受到质疑——这是否会分散参与者的注意力,混淆他们的α节律?但实验者可能希望尽可能保持对照组和实验组相似,这意味着强迫对照组也观看快速闪烁的灯光。在这一限制下,无节律是能做到的最好的选择。

参与者完成了约800次任务重复,之后被分析为8个约100次试验的块。每个试验都遵循相同的顺序:

  • 同步:15次灯光闪烁,按照参与者所在组的模式进行。
  • 延迟:约100–350毫秒的短暂停顿,根据参与者的α节律进行调整。
  • 刺激:随机生成的径向或同心图案显示200毫秒。
  • 反应:1.3秒的时间使用键盘的左右键进行回答。
  • 反馈显示100毫秒:正确回答显示绿色对勾,错误回答显示红色叉号。
  • 试验间间隔:1.5±0.25秒的延迟。
  • 重复。

每约200次试验后,参与者被鼓励休息以减少疲劳。

在研究的第二天,参与者又进行了800次试验,但没有同步(闪烁)或反馈。这旨在测试第一天发现的任何效果是否反映了非学习提升——同步暂时使参与者在那一刻更擅长任务——还是持续到第二天的真实更快学习。

一旦数据被收集,他们将其按约100次试验的块进行分析。对于每个参与者,他们将对块准确率拟合一个对数函数:

准确率 = 偏移量 + 学习速率 × log(块编号)

以下是他们的两个主要图表:

这项研究似乎取得了成功!T-match组(在谷值时呈现刺激以增强α节律)的参与者比其他两个实验组的参与者更快地学会了任务。这与将α相位与瞬时视觉兴奋性联系起来的理论论点一致:在谷值相位时,视觉系统对传入信号更“开放”,而在峰值时则更受抑制,这可能会影响检测表现。

复现

由于预算紧张,我用12名参与者代替了原始的80名。

为了从较小的样本中获得更多信息,我调整了设计:

  • 在实验的第一天,每位参与者要么接受P-match条件,要么接受T-match条件。
  • 然后在第二天,他们接受相反的条件。

这里存在天花板效应的风险——人们可能在第一天或第二天刚开始时就“学会了所有能学会的内容”。但报告的3倍学习速率差异应该为“T-second”参与者仍然显示出学习提供了足够的空间。

这种设计仍然允许仅在第一天进行组间分析,就像原始研究一样。但它还允许在两天内进行组内分析,每个人都是自己的对照组——当样本量较小时,这一点尤为重要,因为它消除了组间个体差异。

和原始研究一样,这次复制实验也是双盲的:作为实验者,我以及参与者都不知道他们在某一天接受的是哪种条件。

我也只能选择更便宜的硬件。原始研究的作者使用了一套63通道的EEG系统,价格可能在5万美元到10万美元之间。我使用了一套更便宜的OpenBCI Ultracortex “Mark IV” EEG头戴设备,搭配8通道的Cyton板和ThinkPulse活性电极。总成本大约为2000美元。

然而,如果有什么不同的话,它看起来甚至更加赛博朋克。

尽管这个决定是由于预算限制而做出的,但使用消费级硬件复制这项研究有一个重要的优势:它测试了是否有可能为廉价的头戴设备开发出合理的学习软件,或者是否可以开发出专门的消费级学习设备。

在不同硬件的影响下,我还对测量和后处理的一些技术细节进行了更改。这些更改有望提高复制研究的准确性和精确度,详情请参见附录中的讨论。

我也需要参与者。感谢你们,Astral Codex Ten的读者,以及伦敦各社区的成员,你们自愿帮助了这项研究。共有15位来自伦敦的人回应了请求。其中两人因为与头戴设备的适配性差(字面意义上的)而退出。一位参与者的实验数据用于测试整个流程,并被排除在样本之外(如预先注册中所声明的)。其余的12位参与者组成了样本。

下面是一分钟实验的样例:

如果你仅仅从观看这段视频就感到无聊,试想一下作为参与者被困在这个循环中一小时的体验。它确实很快就变得非常无聊,而且只有稍微有点帮助才能中断。

结果:效应未被复制

T-match组开始时准确率更高。这种提升在统计上是显著的(p = 0.016),但原始研究中并未出现,因此我们对其真实性并不确定。

原始研究的核心发现——T-match组的学习速度是P-match组的三倍——在此次复制研究中并未出现。结果并不显著,但若有什么不同的话,它可能指向了相反的方向:P-match组在第一天的学习速度更快。

第二天,两个组都达到了上限,几乎没有进一步的进展。

为什么我们的结果与原始研究如此不同?

让我们按参与者来分解学习速度。

最大的差异是,在原始研究中,一些P-match参与者有较大的负向学习率——他们在研究过程中表现变差。而在复制研究中,没有人是这样的。

负向学习率在理论上是可能的:在人们有时称之为“初学者的运气”中,新手一开始使用(好的)直觉,然后随着他们开始过度关注错误而表现变差。但这项任务足够简单,可以提供另一种解释:感到无聊或疲倦。参与者需要观察800次略微不同的噪声模式。到第799个模式时,他们可能只是随便应付一下。

这仍然可能是一个有意义的发现:正确类型的EEG同步有助于参与者在长时间、无聊的任务中保持专注。但它可能只是一个伪影:在复制研究中并没有类似的现象。

此外,人们通常将注意力的提高与更好的学习联系在一起。因此,如果这种注意力的提高是真实的,你可能会期望它在积极的学习率中也有所体现,即使效果不那么明显。上述数据中可能有一些迹象表明这一点,但并没有实质性的证据。

原始研究的结果非常脆弱

在原始研究的P-match和T-match组中,40个数据点中有17个,如果移除其中的单个数据点,就会使研究结果超出传统p = 0.05的阈值。例如,移除具有最左侧负学习率(-7.12)的参与者,会使研究结果从p = 0.045变为p = 0.091。

我们认为(Sasha & Scott)最可能的解释是,原始研究中的一些人变得非常无聊,而巧合的是,他们全部都在P-match组中。这使得T-match组看起来更好。在复现研究中,再次巧合的是,没有人变得那么无聊。

原始研究用汇总统计掩盖了数据

在原始研究的标题图表中,作者将个体的、按参与者划分的数据通过两种不同的平均程序进行呈现。他们报告了每组的平均学习率,并且通过每块准确率的曲线拟合,这些准确率本身是跨参与者平均的。综合来看,这使得T-match的优势看起来像是一个或多或少统一的群体层面效应。

而个体数据则讲述了一个不同的故事:这种差异主要是由少数P-match参与者中急剧负的学习率所驱动的。

这种用平均值掩盖底层数据的做法是故意的吗?在没有原始作者评论的情况下,我们只能进行推测。对原始作者们:如果你们正在阅读这篇文章,我呼吁你们公开评论你们的工作过程。

我个人目前倾向于认为这不是有意为之:

  • 他们提供了足够的数据,供人们验证他们的发现——因此我们现在才有这样的讨论。
  • 他们讨论了组间许多真实的EEG差异。这些内容超出了本文的范围,但你可以在原始研究中阅读到相关内容。我们的复现研究也显示了P-match和T-match之间的差异——初始准确率的提升。这种提升在原始研究中几乎不存在,但它指出了视觉处理上的有意义差异。
  • 让那些没有罪的人先扔石头吧——在进行复现之前,我也忽略了他们数据中的这个问题。

在进行复现之前,我曾与原始作者(Elizabeth Michael和Zoe Kourtzi)联系过——他们提供了关于他们研究的评论,对此我非常感激。然而,当我于一月份通过电子邮件将复现结果发送给他们并询问他们对负学习率的解释时,他们没有回复我的邮件或后续的跟进。

撇开意图的问题不谈,这项研究中可观察到的缺陷是更广泛模式的一部分。

货币崇拜统计

Stark和Saltelli将“货币崇拜统计”定义为对统计的机械、仪式性应用:

实践者只是机械地进行模型拟合、计算 p 值或置信区间,或模拟后验分布。他们使用统计术语和程序如同咒语,对这些计算的假设、相关性,甚至术语本身的含义都知之甚少。这种做法将统计学从一种思考证据和避免自我欺骗的方式,降格为对主张的一种形式上的“祝福”。这种“货崇拜”统计学的效果参差不齐,但确实有效于让质量低劣的研究得以发表,甚至有些期刊还要求必须使用这种方法。

原始作者进行了仪式:收集数据,进行 t 检验,得到了一些 p < 0.05 的结果,宣布具有显著性,并发表了他们的论文。但仅仅执行专业上普遍接受的仪式是不够的。科学的目的是以批判的眼光审视基础数据,并向自己提出问题,例如:

  • 这个效应是真实存在的,还是分析灵活性和小样本量造成的产物?
  • 在个体参与者层面,基础数据到底发生了什么?
  • 我们如何解释大的负学习率?T-match 组中没有出现这种学习率,是由于真正的注意力效应,还是纯粹的运气?
  • 我们应该发布哪些数据,以便其他研究人员可以验证我们的发现?他们甚至没有正确地公开每块数据的准确率,以重现他们的主要图表(详见附录中的进一步讨论)。
  • 为什么在整体阶段效应不稳健于剔除一个参与者的情况下,仍然可以拟合线性混合效应模型?为什么在展示基础数据形状合理之前就拟合这个模型?他们在研究中确实这样做了,但没有提供任何解释。

这些问题对于正确理解科学至关重要。但它们在实践中也非常重要——如果我们想要制造一种帮助人们更快学习的设备,我们需要知道这个效应是否足够真实,可以作为基础。

任何论文都可能包含类似的问题。如果原始论文代表了科学研究的普遍做法,那么科学就陷入了严重的困境。我们能做些什么来评估这个问题的规模?

借助人工智能的民主化元科学

目前,科学仍是一种神职。一小部分专家拥有时间、资源、工具、技术熟练度和制度上的许可,去执行一项研究,或去检查已发表主张背后的逻辑和机制。公众则被期望站在神殿之外,阅读最终的 PDF 文件,并信任那些长袍。

如果科学真正开放,数据和代码可以自由获取,科学家与一般读者之间的人为阶级差异将不再是问题。但在这项研究中,我们有标签不明确且不完整的数据(见附录)。我们也没有用于获取这些数据的原始代码,没有分析代码,也没有用于绘制这些数据的代码。

过去,从头开始重新分析像这样的论文需要耗费大量时间和技术精力,足以阻止几乎所有的人。但人工智能正在迅速改变这一现状。它在复杂的数据处理、统计分析和数据可视化方面表现得越来越出色。科学家与普通读者之间的软件鸿沟正在缩小——隐藏的代码可以更容易地被重新创建。

随着这类研究的迅速消失,一种新的科学形式可能会出现。你本地的博主可能在元科学方面的能力,甚至比顶尖大学从事科学研究的人还要强。如今,一个拥有笔记本电脑和大型语言模型(LLM)的业余爱好者,只需几个周末就能完成过去专家需要一个月才能完成的调查。这并不是夸张:虽然我在该项目上投入了数百小时,但本文中图表的最初版本确实只用了几个周末就完成了。

如果科学家们不能正确地履行他们的职责,我们自己也可以开始去做。科学的未来可能更加民主,而不是声望至上:不再像神父那样传达结论,而是像一个由读者、分析师、批评者和建设者组成的网络,持续地互相审计彼此的主张。

如果你想成为这个未来的一部分,请选择一篇有在线数据的有趣论文,对其进行审计,重现关键分析和图表——看看你是否能发现一些可疑之处。欢迎在我的心理科技(psychotechnology)Substack 上私信我。我从这次复制研究中学到了很多,我很期待与你交流。

致谢

感谢以下人员:

  1. Scott Alexander 提供了 ACX 奖金和持续的项目支持。
  1. 参与者 —— Adam Langworthy, Alex Rosen, Beriwan Ceren, Clara Yeo, Jon Besga, Joseph Michaelides, Laurie Mercer, Matilda da Rui, Mila Kaplan, Patrick Stevens, Rafael Muñoz Vega, Richard Xie, Shannon Yang, Stuart Wilmot, Zoltán Vér —— 感谢你们的时间和努力。也感谢你们提供的脑电波数据。真正的复制研究是我们一路走来所结交的朋友。
  1. Eric Wycoff Rogers 为头戴设备打印了3D框架,同时也运营了伦敦夜咖啡馆(London Night Cafe),我在那里度过了许多深夜撰写本文的时光。

代码和预先注册链接

  • 预先注册:[Preregistration](链接)
  • GitHub 上的代码:[Code on Github](链接)。用于运行试验的具体提交记录。

已发布数据

复制研究的数据可在与代码相同的 GitHub 仓库中找到。公共数据集包括每位参与者的每块准确率,这些数据与原始研究的数据结合后,足以重新运行关键分析并重现本文中的图表。

为了保护参与者的隐私,脑电图(EEG)记录和每轮试验的行为数据未被公开。

附录

原始研究与复制研究的深入比较

本章包含许多图表,这些图表在主章节中并未作为叙事的关键部分,但为了完全透明或仅仅是出于兴趣,它们是必要的。

复制研究:单个参与者的数据

在主章节中,我们没有展示每个参与者每块的准确率——这些是驱动学习曲线拟合的原始数据。下面你可以看到复制研究中的这些数据。

S01–S12 是匿名参与者的 ID。编号是随机的——它与致谢部分的顺序或注册顺序不一致。

原始研究:单个参与者的数据

至于原始研究……部分原始数据已发布。作者在 groupLR_forLMM.csv 文件中提供了 P-Match、T-Match 和 T-nonMatch 组的计算学习率——这些数据用于构建主章节中的图表。而无节律对照组的数据未包含在内。

每轮试验和每块数据的准确率数据也无法获取,因此我们无法直接重建他们的图表。但有一些数据允许我们重新计算一个有用的近似值。

他们在 AccPerLat.csv 文件中提供了每块数据的准确率数据,每个参与者有三行数据,分别对应 1、2 或 3 个 alpha 周期的延迟。平均而言,每个参与者应收到三分之一的每种延迟时间,因此对这些准确率取平均值,可以得到一个整体的每块数据准确率估计。

这种方法并不完美 —— 整个数据集的平均值不等于三个子集平均值的平均值。但如果想一窥他们原始曲线的全貌,这已经是最好的办法了。我希望他们直接发布了整体的每块数据准确率,但遗憾的是没有。

这种方法对学习率的整体分布有多大影响?让我们比较原始数据和重新计算的学习率:

从视觉上看,分布似乎变化不大。计算每个参与者的误差会很好,但不幸的是,他们的 CSV 文件中没有可以用来连接的键。

再次强调,理想情况下我们不应该进行这种处理 —— 如果原始作者发布了完整数据,我很乐意发布更新。目前,这里是我们得到的近似值。

更高质量的图表版本

用肉眼观察,你能分辨出这些条件之间的差异吗?最显著的差异再次是 P-Match 群体中存在大量负的学习率。

其他比较的链接:T-match vs T-NonMatch,T-match vs Arrhythmic Control,P-match vs Arrhythmic Control。

所有群体的意大利面图

这些个体图表很难并排比较。这里将相同的每块数据准确率合并在一起,并加入拟合线,使得数据中的模式更容易被发现。这些图表也包括了 T-nonMatch 和 Arrhythmic Control 群体。

一些有趣的模式:

  • 原始研究中在第 8 块数据中准确率出现了下降。
  • 在某些块数据中,Arrhythmic Control 的准确率相当高。
  • Arrhythmic Control 群体是所有群体中分布最广的。

T-match 和 P-match 的 2×2 意大利面图网格

之前的图表使得在每个研究中比较群体变得容易。为了使复制研究与原始研究之间的比较更容易,这里将 T-match 和 P-match 的意大利面图以不同的方式排列:现在条件是行而不是列。

原始研究:所有学习率的完整分布

恢复的每块数据准确率及其拟合曲线也让我们能够看到学习率的完整分布。

有两个显著的发现:

  • 某种原因,P-match 几乎占据了完整分布的整个左尾。
  • 负的学习率根本不是什么异常现象。

重新分析头条图表:排除大量负学习率

如果我们排除大量负的学习率并重新创建头条聚合学习率图表,会发生什么?让我们使用学习率 ≥ −1 作为截止点,以允许基本平坦的学习曲线,只是略微向下倾斜。

最终,我们从复制研究中没有排除任何人(那里最小的学习率是 −0.51),但从原始研究中排除了四名参与者(全部来自 P-match 群体)。

显著的 3 倍差异消失了。T-match 和 P-match 之间的差异也不再显著:

  • 学生 t 检验:t(34) = 0.786,p = 0.4376
  • 沃尔什 t 检验:t(33.0) = 0.791,p = 0.4346

使用一种价格便宜 1.5 个数量级、电极数量更少(8 个 vs 63 个)的头戴设备来测量 alpha 活动?

电极数量并没有听起来那么重要。原始研究的作者仅使用了头部后部的 5 个通道来获取个体 alpha 频率(IAF)的峰值。我的头戴设备在头部后部有 3 个通道,因此电极数量的差异并不算太大。虽然使用 63 个通道进行记录对于后续更精确的分析仍然很有用,但原始研究中对 IAF 的核心估计是使用了更小的电极子集完成的。

至于价格和质量,几位拥有丰富 EEG 经验的人告诉我,OpenBCI 的头戴设备对于这次复现研究来说是合理的。在开始我的研究之前,我曾通过电子邮件向原始研究的作者提出了一些问题,并提到了硬件。他们没有明确评论这一点,但也没有将其视为一个坏主意,还告诉我他们很期待研究结果。

此外,这次复现研究在一些重要的操作步骤上与原始研究有所不同——这些变化有望提高 IAF 的精度。

如何测量 alpha 峰值频率——以及在复现研究中为提高估计精度所采取的步骤

alpha 节律是您在头部后部最明显看到的持续、大致正弦波状的活动,其频率范围在 alpha 范围内(定义为 8–12 Hz)。它相对规律,但并不是完美的节拍器:其振幅有强有弱,其瞬时频率会随时间漂移。但通常它会有一个主导频率。

上面的图表显示了复现研究中一位参与者在大约第 5 分钟时,从一个电极记录的 EEG 数据。可以看到有规律的活动,看起来相当周期性——这就是 alpha 节律,而且非常明显。但您看到的不仅仅是 alpha 节律;大脑中还有其他活动。如果您试图用肉眼估计这位参与者的频率,您可能会得出大约 ≈10 Hz 的结论,但您需要做一些复杂的判断,以确定什么才算是一个峰值。

一个重要的细节是,该记录也经过了某种程度的后处理——频率低于 1 Hz 和高于 40 Hz 的部分已被移除。为了理解原因,让我们看一下下面的原始数据。

电活动完全被来自电网的 50 Hz 噪声所主导。请注意这两个图表的 Y 轴差异几乎达到 70 倍。

为了应对所有这些情况,会在滤波后从记录中计算功率谱。功率谱可以告诉您信号在每个频率上的分布情况。alpha 活动会以 alpha 频段(在原始研究中为 8–12 Hz,在复现研究中为 7–14 Hz)中的一个突起或峰值的形式出现。个体 alpha 峰值频率(IAF)被定义为 alpha 功率最大的频率(以 Hz 为单位)。

这些是复现研究中对同一位参与者的图表。您可以看到在头部后部的三个电极(O1、Oz、O2)上曲线的形状略有不同。在原始研究中,作者对光谱进行了平均;在我的复现研究中,我拟合了一个 SpecParam 模型,然后在平均之前减去了非周期性成分。在价格较低的头戴设备上,预计 alpha 峰值会不太明显,因此使用更复杂的程序来分离真正的振荡峰值是有意义的。

此外,EEG 活动的记录时间从 5 分钟增加到了 7.5 分钟——更多的数据使得峰值在背景活动中更加突出。

原始作者并未说明其记录环境的具体条件。我选择了一个黑暗的房间(参与者眼睛所在的平面照度低于 2 lux),因为在黑暗环境中,α 活动更为明显——这有助于 IAF 的估计。

最后,正如原始研究中一样,参与者盯着屏幕上一个固定的点。他们被要求保持眼睛睁开,如果参与者知道如何并且愿意的话,允许他们在睁眼的情况下进行冥想——冥想已知可以增加 α 波的功率。

在复制研究中处理 EEG 的其他差异

本节内容较为技术性,仅适用于熟悉 EEG 的人员。

预处理。我应用了 1–45 Hz 的带通滤波器,但没有重新参考到平均值——在只有 7 个通道的情况下,坚持使用硬件参考更有意义,因为重新参考会丢弃更大比例的有用信号。功率谱的转换应该是一样的;它是使用 Python 的 MNE 库完成的。

SpecParam 质量控制。SpecParam 也用于记录的质量控制。自动质量控制的参数是预定义的;如果记录未通过,会在重新调整头戴后重新进行记录。我使用了前两名参与者的 EEG 数据来调整这些参数——他们被排除在分析之外(不属于 n = 12 的样本)。在进行这些操作时,我没有了解参与者的条件(T-match / P-match)。

α 波带定义。在原始研究中,α 波带定义为 8–12 Hz,而在复制研究中,我将其扩展为 7–14 Hz。原因:原始论文中的图表显示,有几位参与者的测量值正好在 8 Hz 和 12 Hz,这暗示真正的峰值可能位于该频带之外。

头戴适配。我不确定原始作者是如何适配他们的头戴的,但我的头戴使用的是干电极,需要大量的尝试和错误。操作步骤:让 OpenBCI GUI 显示一个相对干净的实时连续记录(保持在 ±50 µV 以内),然后进行记录,并依靠基于 SpecParam 的质量控制来触发重新记录。

OpenBCI 头戴在长时间使用后可能会变得相当不舒服(甚至经常非常疼痛)——感觉就像穿了一双小一两码的鞋子。由于闪烁频率仅在所有试验开始前设置一次,且在会话过程中不会调整,因此允许参与者在任何时候请求松开电极或完全移除头戴。这是为了参与者的舒适度——也是为了防止不适感干扰任务表现。

如需了解完整的流程,请阅读预注册和代码(这里是所使用的具体提交)。代码优先于预注册。

招募参与者

参与者是从 ACX 博客招募的,Scott Alexander 发布了类似这样的更新。他们还通过各种 WhatsApp 群聊(例如 ACX London、London Rational-ish)以及在聚会中面对面招募,并通过口碑传播招募。

退出者

有一个人在第一天之后因头戴造成的显著不适导致头痛而退出。另一个人在第一次会话期间因适配头戴耗时过长而未能在预定时间内完成,他们被提供了改天再来的机会,但由于日程冲突,这一机会未能实现。这两个人均未被纳入最终分析。

其他重要的复制事实和差异

  1. 原始研究中,参与者在记录 EEG 之前进行了 50 次模式识别任务的练习。论文并未明确说明在练习过程中是否提供了反馈(而描述研究其他部分的句子则明确提到了反馈)。尽管我反复阅读了多次,但我似乎忽略了研究中的这部分内容。
  1. 每 100 次试验后允许休息,而不是每 200 次。这是有意为之的:我不清楚为什么他们允许每 200 次试验后休息,却以 100 次为分析单位,这使得偶数块与奇数块系统性地不同。让两者大小相同看起来是合理的。
  1. 每完成 100 次试验后,会显示一个休息屏幕,鼓励参与者休息,并列出他们每块试验的准确率百分比。后者是有意为之,以帮助参与者更好地校准他们的整体准确率。这项任务重复、困难且令人沮丧——当你实际上表现得不错时,很容易感觉好像根本没有进步。

如果参与者对没有进步表示担忧,而实际上他们确实没有进步,我会通过重复这部分说明来鼓励他们:他们应尽力而为,但这不是考试,任何类型的学习模式都是有价值的。

  1. 原始研究中,仅在 100 毫秒内以绿色对勾或红色叉号的形式提供每轮试验的反馈——这可能是为了尽量减少对 EEG 的影响。我提供的反馈时间更长,覆盖整个试验间隔(1.5 ± 0.25 秒)再加上额外的 100 毫秒。这是半有意为之的。我最初使用 GPT-5 为试验运行器原型设计时,就展示了整个试验间隔的反馈。

在我看来,这是一个明智的决定——任何现实中的学习系统都会以这种方式展示反馈。我在进行复制研究前几乎立刻注意到了与原始研究的差异,那时我已经对自身进行了大量测试,并决定不进行更改。没有遗憾——这使系统更接近现实条件。

至于潜在的 EEG 数据分析:我正在使用一款更便宜的耳机进行复制研究,允许参与者在会话中途取下耳机。在这些试验中,EEG 并未用于初始 IAF 测量,因此 EEG 数据质量的进一步小幅下降是可以接受的。

感知提升

尽管我们在两组中发现了相似的学习速度,但我们的研究显示,T-match 组在整体上存在一个微小但显著的优势,而原始研究中并未出现这种情况。为什么?

再次,一种可能性是巧合。还有其他可能性吗?

我在某些方面拥有比原始研究作者更好的显示器。他们使用的是固定刷新率为 120 Hz 的显示器,而我们使用的是可变刷新率(48–165 Hz)的显示器,它会根据输出帧的频率动态调整。

在 120 Hz 的显示器上,帧之间的间隔是固定的。这意味着你无法在所有频率上产生均匀的闪烁。例如,虽然 10 Hz 的闪烁很容易实现(只需一个亮帧和 11 个暗帧),但 11 Hz 的闪烁则更复杂(120 不能被 11 整除)。你的选择是:

  • 牺牲闪烁的均匀性。有时你有 10 个“关闭”帧在“开启”帧之间,有时是 9 个。
  • 选择最接近的能被整除的频率。对于 11 Hz,最接近的两个选项是 10.91 Hz(1 帧亮,10 帧灭)和 12 Hz(1 帧亮,9 帧灭)。

作者没有报告他们选择了哪种策略。他们只是写道:“尽管 120 Hz 的刷新率可能会限制呈现率,但验证分析表明,神经反应有效地针对了所需的频率。” 我的猜测是,他们并没有以一种有原则的方式选择这两种策略中的任何一种。如果你在编写代码时“希望最好”而没有考虑这个问题,你可能会根据代码的结构得到(1)或(2)。固定刷新率显示器的物理现实会为你选择策略。

更有可能的是他们的策略是(1)——如果你以最简单、最直接的方式编写代码,就会得到这个结果。

但仍然有可能他们最终选择了(2)。这种情况的可能性较低,因为你会被迫考虑实际的闪烁率(从而正确地报告它)。不过,仍然有一些代码结构方式可能会无意中导致这种策略(例如,不加审查地复用之前项目的代码)。

作者写道:“我们预测,针对 alpha 波谷相位进行个体化 alpha 入侵,以刺激传递会增强学习,这是基于之前的研究显示,alpha 波的波谷相位与更强的去抑制作用相关(Busch 等,2009;Mathewson 等,2011,2010;Fakche 等,2022),这可能有助于从杂乱中检测视觉目标。” 并且也许由于有更好的闪烁和更精确的图案时间安排,复制实验最终导致 P-match 承担了更高的惩罚——以及 T-match 和 P-match 之间更加显著的差异。1/120 Hz ≈ 8.3 ms 并不是没有意义的,它是 alpha 周期的 7–10%。或者,复制实验可能在调整入侵以匹配参与者的 alpha 峰值频率方面做得更好。

上一篇

由 Sasha 撰写的客座文章

Psychotechnology:元理性方法。迷幻药、冥想、神经科技、意识研究。偶尔还有写作建议。

订阅 Sasha