圆圈在动吗?这个骗过人眼的动图火了,LeCun解释原理:和CNN对抗攻击类似
金磊 发自 凹非寺
量子位 报道 | 公众号 QbitAI
都说“眼见为实”,但真是这样吗?
先来看下这张动图。
它们没有发生任何改变。
大脑的对抗性样本。 每个类似CNN的结构……都有盲点……会被愚弄。
“忽悠”大脑的动图
可以明显看到,圆圈的转动确实没有超过标记线。
那是不是箭头发生了移动,才产生的错觉呢?也有人做了实验。
它们是静态的。 黄色区域的外侧,有一条蓝色的细线;蓝色区域外侧,则有一条黄色的细线。
网友将圆圈放大后,也发现了这个隐藏的“猫腻”。
你的视网膜→MT视觉通路,将圆周运动中的高对比度边缘,解释成了与边缘正交的运动。
每一个类似CNN的架构,无论是人工的还是自然的,都有盲点。
它们会被训练数据分布之外的输入所愚弄。
“忽悠”AI的对抗性样本
对输入数据样本,添加一些人无法观察到的干扰,导致模型以高置信度给出一个错误的输出。
网友:LeCun,你说的不对
这并不是一个很好的对抗性样本。
这是人类视觉系统的一个对抗性例子,还是一个特征? 这看起来像是我们泛化能力的产物。
参考链接:
https://twitter.com/ylecun/status/1331590066272153600
本文经授权转载自量子位(ID:QbitAI),如需二次转载请联系原作者
欢迎转发到朋友圈。
关注公众号:拾黑(shiheibook)了解更多
[广告]赞助链接:
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/
关注网络尖刀微信公众号
随时掌握互联网精彩
随时掌握互联网精彩
赞助链接
排名
热点
搜索指数
- 1 你们为中美关系注入了正能量 4951492
- 2 直击小米汽车上市发布会 4927305
- 3 电梯维修工带纸片人冒充同事工作 4867935
- 4 新中式出圈背后的小城活力 4747536
- 5 雷军:造车3年终于到了交作业的时刻 4627048
- 6 蚂蚁集团杭州退地 周边房价直降2万 4567885
- 7 荷兰首相在华回应ASML出口管制问题 4416612
- 8 曝奥巴马将直接加入拜登竞选活动 4358975
- 9 面具男用病毒针扎人系谣言 4280247
- 10 副县长行贿60万晋升后 又受贿667万 4137570