底做了什么。”孟繁岐回忆了一下,鄂维南院士在这方面的主要观点就是从动力系统的视角出发。
“这么看待问题的话,可以把很多网络结构的设计归纳进来,算是一个海纳百川的思路吧。你们从这个角度出发,就可以把我的残差思想归纳为理论下的一个小分支。”孟繁岐笑道。
自己这次的创举,看来也使得鄂院士开始提前关注这方面的问题,更早提出了相关的猜测和想法。
“动力系统是一个桥梁,通过你的残差思想和动力系统状态的等价性,就可以引入很多数学和物理界的概念来解释许多现象。”韩辞倒没有想什么要把别人的方法归纳进来。
她更多的是好奇,为什么这种方法的威力如此强大,连续两年大幅的性能提升,几乎已经赶超过去小几十年的进步幅度了。
“往前推,可以解释很多问题和现象,往后推呢,可以依据理论来设计网络,多贪心呢。只不过神经网络中涉及到很多维度的反复变换,如果纯粹用这种方式去解答,还是只能停留在玩具级别的网络和数据上。”
“倒也是....一旦设计多次维度的反复变换,分析就完全不好做了。”
“遮挡在深度学习天空上的乌云已经被我拨开,遮挡在可解释理论