AI 破解：超越神话，以及聊天机器人对大脑的影响
TL;DR · AI 摘要
AI 安全风险不仅限于超级智能的潜在威胁，简单的提示词攻击即可导致账户被盗，且过度依赖 AI 聊天机器人可能会削弱人类的注意力、批判性思维和情感智能。
核心要点
- Meta 的 AI 客服代理因缺乏验证机制，允许攻击者通过简单指令将 Instagram 账户绑定至受控邮箱从而实现盗号。
- 心理学家 Gloria Mark 指出，将认知工作外包给 ChatGPT 和 Claude 等工具会导致人类注意力时长下降并削弱批判性思维。
- Anthropic 呼吁全球放缓 AI 开发，重点警告模型出现“自我改进（self-improving）”能力的潜在失控风险。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI 的社会与技术影响
- 安全风险
- Meta 提示词攻击
- 简单漏洞 vs 超级 AI 威胁
- 认知影响
- 注意力时长下降
- 批判性思维削弱
- 治理与政策
- Anthropic 呼吁放缓开发
- 美国政府入股 AI 公司
金句 / Highlights
值得收藏与分享的关键句。
攻击者利用 Meta 的 AI 客服代理盗取 Instagram 账户，仅通过要求代理将账户链接到受控邮箱即可得逞。
你正在将你的认知工作交给 AI，这对我们不利，这可能会削弱批判性思维和情感智能。
Anthropic 呼吁全球放缓 AI 开发，并特别警示了模型“自我改进”带来的风险。
Plus: Anthropic 已呼吁全球放慢 AI 研发步伐。
2026 年 6 月 5 日
_这是今天的《The Download》__The Download__, 我们的工作日通讯，提供关于技术世界最新动态的每日快报。
**Meta 的黑客事件表明 AI 安全远不止 Mythos**
周一，有报道称攻击者利用 Meta 的 AI 客服代理窃取了 Instagram 账户。他们的做法很简单：让代理将账户关联到他们控制的电子邮件地址，代理照办了。
自从 Anthropic 宣布其 Mythos 模型在公开发布前已过于擅长黑客攻击后，网络安全关注点转向了超级强大 AI 系统可能压垮计算基础设施的风险。然而，Instagram 的黑客事件表明，远更简单的利用手段仍能造成损害。
随着企业将更多工作交给 AI，这些相对不够复杂的攻击正变得难以忽视。阅读全文，了解原因.
_—Grace Huckins_
**AI 聊天机器人正在让我们失去对大脑的控制吗？**
加州大学欧文分校的心理学家 Gloria Mark 担心数字技术正在削弱我们的认知能力。
她的研究表明，注意力持续时间随时间显著下降，导致更高的压力和更低的表现。她现在认为 ChatGPT、Claude 等 AI 工具可能会加速这一趋势。“你正在把认知工作推给 AI，”她说，“这对我们并不好。”
Mark 认为这可能削弱批判性思维和情商。幸运的是，她认为我们可以通过改变与这些技术的关系来纠正这一局面。
_—Jessica Hamzelou_
这**篇文章**来自 The Checkup，我们的每周通讯，帮你把握所有生物技术内幕。[立即订阅](https://forms.technologyreview.com/newsletters/biotech-the-checkup/?_ga=2.241810882.15113993.1664981064-43237434.1647441349&utm_source=the_download&utm_medium=email&utm_campaign=the_download.unpaid.engagement&utm_term=*%7CSUBCLASS%7C*&utm_content=*%7CDATE:m-d-Y%7C*)，每周四在收件箱里收到最新内容。**
必读精选
_我在网络上搜罗了今天最有趣、最重要、最恐怖、最迷人的技术故事。_
1 Anthropic 呼吁全球放慢 AI 研发 它指出模型“自我改进”的风险。(WSJ $)
_+ 并呼吁制定协调计划以停止它们。_ (Reuters $)
_+ 怀疑者指出时机极其方便。_ (The Register)
2 首次科学家精准编辑人类胚胎基因 他们使用了更先进的基因编辑技术。(NYT $)
_+ 基因改造婴儿可能正在酝酿。_(Guardian)
_+ 公司对该技术有宏大计划。_(MIT Technology Review)
3 美国官员讨论在 AI 公司中持有财务股份 他们已就政府收购股份展开讨论。(Reuters $)
_+ Sam Altman 去年向白宫提出了这一想法。_ (WSJ $)
4 机器人网络流量已超过人类流量 Cloudflare 表示，57.4% 的流量来自机器人。(NBC News)
_+ 其 CEO 预计这一里程碑将在 2027 年底实现。_(CNET)
5 白宫计划将 AI 医生引入美国医疗 它希望让聊天机器人诊断疾病并开具处方。(WSJ $)
_+ 但我们甚至不知道医疗 AI 是否真的能帮助患者。_ (MIT Technology Review)
6 Meta 静悄悄为其智能眼镜应用添加了人脸识别代码
这项探索性功能将通过生物识别数据识别人脸。(Wired $)
_+ 智能眼镜也正在进入战争领域。_(MIT Technology Review)
7 韩国劳工部长希望科技公司分享 AI 利润
金永希望员工和供应商也能获得一份。(Reuters $)
_+ 他帮助避免了三星在 AI 利润分配上大规模罢工。_(NYT $)
8 加拿大备受期待的 AI 战略已启动 它承诺超过 20 亿美元的资金，目标创造 25 万个工作岗位。(BBC)
_+ AI 可能强化民主。_ (MIT Technology Review)
9 农业科技投资正蓬勃发展
在我们面临前所未有的食品市场波动时，这是好消息。(The Economist $)
10 蜜蜂能使用工具解决问题，新研究表明
它们不仅忙碌——也很聪明！(Guardian)
今日名言
**“哎呀，事情发生得比我预料的还快。”**
— Matthew Prince，Cloudflare 联合创始人兼 CEO（全球最大的互联网托管服务之一）在 X 上对机器人已超越人类驱动网络流量的报道作出反应。(X)
再说一句
CHRISTOPHER PAYNE
#### 揭秘拯救摩尔定律的机器
在康涅狄格州的洁净室里，荷兰公司 ASML 正在研发全球最先进的极紫外（EUV）光刻机——制造微芯片的关键工艺。
这套系统已成为摩尔定律的核心——即芯片上晶体管数量大约每两年翻一番，随着尺寸缩小，性能和效率不断提升。CCS Insight 研究总监 Wayne Lam 表示：“没有这台机器，摩尔定律就失效了。没有 EUV，你根本无法制造任何前沿处理器。”
_—Clive Thompson_
我们仍能拥有美好的事物
_一个让你舒适、愉悦、放松的地方，让你的日子更亮丽。（有想法吗？[给我留言](mailto:thomas.macaulay@technologyreview.com)。)_
+ 科技领袖热爱托尔金。以下是作家可能对他们的看法。
+ 罕见镜头捕捉到太平洋海底火山爆发。
+ 观看一只被救援的小幼崽成长为成年虎的温馨合集。
+ 这段中世纪版《Take On Me》 就像走进一间合成流行吟游诗人的酒馆。
深度探讨
保持联系
插图：Rose Wong
获取最新更新
MIT Technology Review
发现特别优惠、头条新闻、即将举行的活动等。