00:09:32
反向传播:一个让错误"倒着流"的灵感,如何让机器认出数字 把一张手写的"5"喂给一个什么都不懂的神经网络,它会怎么反应?
答案是——完全瞎蒙。
想想你是1989年贝尔实验室的年轻研究者,你叫杨立昆。你拿到几万张手写数字图片,搭了一个三层神经网络,不到9万个参数。他没有写任何规则告诉网络"5长什么样",只是一次次喂图片、算误差、调权重。
几万张图片训练完,错误率从90%暴跌到不到5%。
网络自己学会了认字。
但当他翻出那40张认错的图片时,发现了一个致命的问题——数字只要偏离中心,网络就歇菜了。更可怕的是: