他想起去年在西安交大走廊里,那个黄毛少年对他说的话。
“你的模型在做大量无效计算。”
“让模型只用它需要用的那部分脑子去思考。”
当时他以为那只是一个外行的模糊直觉。
但现在他回过头来看,那个十八岁的少年说的每一句话,都精准地指向了这个领域未来五到十年的核心命题。
残差连接解决了深层网络的训练问题。
但那个少年想要的,显然不止于此。
任少卿盯着那面光墙,脑子里像打开了一扇被堵住很久的门。
五十层的残差网络证明了一件事:网络可以做得很深,深度不再是瓶颈。
那下一个瓶颈是什么?
The content is not finished, continue reading on the next page