AI模型可能比我们想象的更脆弱
Last Week in AI182 字 (约 1 分钟)
82
研究发现仅需翻转神经网络中2个关键参数的符号位就能使ResNet 50在ImageNet上的准确率下降99.8%，揭示AI模型存在严重脆弱性。
入选理由：仅翻转ResNet 50中2个符号位可使ImageNet准确率下降99.8%
精选视频#AI安全#神经网络#模型脆弱性#对抗攻击英文
模型
ResNet-50
别名：ResNet50
经典的 50 层残差网络图像分类模型，广泛用于计算机视觉基准测试。
已跟踪 2 条高相关材料
TraeAI 观察
最近变化
2026-05-18 · 仅翻转ResNet 50中2个符号位可使ImageNet准确率下降99.8%
为什么值得关注
ResNet-50 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
对抗攻击AI安全ResNet位级攻击模型脆弱性
如果只读 3 篇
1
AI Models May Be More Fragile Than We Think
Last Week in AI · 8.2 分
研究发现仅需翻转神经网络中2个关键参数的符号位就能使ResNet 50在ImageNet上的准确率下降99.8%，揭示AI模型存在严重脆弱性。
2
AI Models May Be More Fragile Than We Think
Last Week in AI · 7.5 分
仅需翻转 ResNet-50 中两个参数的符号位（signed bit flip），即可在无需数据访问或训练的情况下使 ImageNet 准确率暴跌 99.8%，揭示神经网络存在极端脆弱的"深层病灶"攻击面。
相关材料
已收录 2 条与 ResNet-50 相关的内容，按评分排序。
AI 模型可能比想象中更脆弱
Last Week in AI182 字 (约 1 分钟)
75
仅需翻转 ResNet-50 中两个参数的符号位（signed bit flip），即可在无需数据访问或训练的情况下使 ImageNet 准确率暴跌 99.8%，揭示神经网络存在极端脆弱的"深层病灶"攻击面。
入选理由：攻击仅需翻转 2 个参数的符号位，无需接触训练数据或进行优化
精选视频#神经网络安全#对抗攻击#模型鲁棒性#位级攻击#ResNet英文