而姚先生此刻在台上讲的这些，就像一根针线，终于将这些串联了起来。
损失景观为什么会连成片，连成片之后梯度下降凭什么偏心，偏心又怎么扯到了核方法的头上……
原来，它们讲的是同一件事。
……
就在李东顺着这根线往下捋的时候。
台上的姚先生，忽然停了下来，低头看着教案，似乎是在等底下的同学消化。
教室里，一下子就静了。
李东还沉浸在刚才的思路里没出来，姚先生讲的那个懒惰训练有个地方他一时没搞明白。
于是他下意识地就喃喃自语了一句。
“……可它要是一直这么懒，那它到底是从什么时候起，才真正学到东西的呢？”
声音不大。
可教室太静了，这一句话就显得格外的清楚了。
姚先生本来还低头看着教案，听见这一声，他抬起了头。
目光落到后排的李东身上，他笑了笑。
“李东教授，你这个问题，问得很好，”老人慢条斯理地说道，“网络要是真就一直这么懒、一直围着起点打转，那它顶多算个换了身皮的核方法，谈不上学到什么新东西。它真正开始学，是从它肯挪窝、肯把那些旋钮往远了拧、在底层自己长出一套有用特征来的那一刻起的。”
“这中间隔着的那道坎叫逃离 NTK机制，进入特征学习。”
“至于这道坎卡在哪儿，又该怎么迈过去……”
姚先生笑着摇了摇头。
“这恰恰是现在还没有几个人能说清楚的事。”
姚先生话音一落，李东却愣在了那里。
周围几个学生偷偷瞄他，心里都犯起了嘀咕。
好家伙。
这个问题难成这样了？连东神都被说懵逼了？
然而李东并没有被说懵。
他愣住的原因只是因为……刚才他的脑子里毫无征兆地冒出来一些更深的东西。
【当网络宽到极限的时候，不再被看成一堆死板的旋钮，而是化作了一片连续的“概率分布”】
【每一个神经元，都成了这片分布里的一粒尘埃。】
【训练也不再是苦哈哈地一个个拧旋钮，而是这一整片分布，在一个叫 Wasserstein空间的几何世界里，顺着最省力的方向流动。】
这是把训练直接写成了一道描述质量如何流动的偏微分方程啊。
而顺着这道方程往下，那道卡了无数人从懒惰到特征学习的坎，竟隐隐约约露出了一点能绕过去的缝。
这才是李东懵逼的原因，他立刻就反应了过来……
这是姚先生脑子里的思路，是姚先生那些还没来得及说出口、甚至自己都未必理顺了的灵感。
它们被薪火相传进阶版的效果，塞进了李东的记忆宫殿里。
可紧接着李东又觉得不对劲。
刚才他坐在底下听，姚先生讲了那么久，他脑子里也只是把旧东西串了串，半点新的没冒出来。
偏偏是他喃喃问了那一句、姚先生回了他那一句之后。
这股灵感才出现的。
“不会吧……”
“难道非得我开口问才能……触发这个效果？”
他越想越觉得是这个理。
于是李东抬起头，有些抱歉地，看了一眼教室里那一张张还懵着的脸。
对不住了，各位。
接下来我要干的这些事，真不是我自己想这么干的。
……
于是在智班这一屋子人的眼皮子底下……
李东自打问完头一个问题以后，就完全停不下来了。
“姚先生，那顺着这个往下想。”
“要是干脆别盯着一个个参数看了，把整张网络拉到无限宽，看成一片连续的分布，训练是不是就能看作这片分布的演化？”
姚先生握着粉笔的手，微微一顿。
他没料到，这小子一张口，直接切到了平均场理论的腹地。
“……可以这么看。”
他眼里也透出了光。
“把训练写成分布的流动，那你紧接着就会撞上一个问题，它顺着什么尺度在流动？”
“顺着最省力的方向呗。”
李东几乎是脱口而出。
“可省力得有个尺度，寻常的欧氏距离不顶用，得换一种能丈量两片概率分布远近的法子……”
“最优传输给的度量尺度。”
姚先生接了下去，语速也快了几分。
“拿 Wasserstein距离当尺度，这片分布的流动，就成了一道最优传输空间里的梯度流。”
“再往下一落地，你就得到一道偏微分方程。”
“连续性方程！”
两个人几乎是同时说出了这五个字。
第395章“棋逢对手”
两人异口同声以后，姚先生愣了一下，李东也愣了一下。
空气里有那么一瞬间的安静。
接下来，就没旁人什么事了。
李东问得越来越深，姚先生答得越来越快。
一个问，网络化作概率流之后，凭什么敢保证它一定能流到全局最优。
一个答，这片分布会不会卡在半路，卡住了又得靠什么噪声把它推出去。
两个人你一句我一句，全是这帮大二学生听都没听过的学术黑话，直接从分布流动，一路聊到了那条这两年吵得最凶的缩放定律（Scaling Law）——模型越大、数据越多、算力越足，它犯的错就顺着一条幂律往下掉，可这条幂律背后的数到底是从哪儿冒出来的，至今没人能从根上算明白。
而台下这帮大二的学生这会儿是彻底懵了。
他们只看见东神坐在后排，问题一个一个跑出来，人也越来越激动，甚至都要站起来了，眼睛跟个饿狼一样泛着光。
这……这是东神？
这帮人脑子里几乎出现了同一个画面。
高中那会儿，班上总有那么一个老师刚把问题问一半，就把手举得老高、一节课能站起来问八百回、生怕全班不知道他懂得多的家伙。
可那是东神啊。
菲尔兹奖最年轻的得主，本土头一个。
这么个人物，怎么一上了头，竟跟当年班里那个最招人侧目的同学，一个模样了？
东神的人设，好像有那么点……塌了。
可没人知道。
站在台上的姚先生，心里此刻是另一番滋味。
他和李东的讨论越多越是品出了一点古怪来。
每一回，他刚把一个问题答到一半，心里那条还没捋顺的思路，就被李东下一个问题就问了出来。
他往哪儿想，李东就往哪儿问。
他这边一个坎还没迈过去，那边就已经把下一步该往哪走的问题问出来了。
姚先生忽然想起自己常跟学生说的一句话。
下棋这东西，对手要是都比你差着一大截，你这辈子棋艺也长不了多少。
可冷不丁碰上一个实力差不多的对手，你来我往，几盘杀下来，自己的棋反倒精进得飞快。
他教了一辈子书见过的好苗子，数也数不过来。
可像今天这样，被一个人顺着自己的思路，一路往最深处推着走的滋味，他还是头一回尝到。
知己者，莫若东也。
老人心里忽然冒出这么一句来，连他自己，都觉得有点好笑。
到后来，这一老一少，已经分不清谁问谁答了。
姚先生从台上走了下来，索性来到了李东的桌边。
两个人对着一张草稿纸，你写一行，我接一行，有时为着一个地方各执一词，争得面红耳赤，争着争着又忽然一拍即合，异口同声地说出同一个东西来。
黑板早被晾在了一边。
这哪还是上课。
这分明是两个一同钻进了同一个问题里谁也拔不出来的人，在那儿你来我往地切磋。
……
也不知过了多久。
一阵下课铃声响了起来。
才总算把这对年纪差着大半个世纪的两人，从那张草稿纸里给拽了出来。
姚先生抬头看了眼窗外的天色，这才回过神来，有些意犹未尽地放下了笔。
他清了清嗓子，转向了教室里那一屋子还没缓过神来的学生。
“今天就讲到这儿，”老人脸上露出温和的笑。
“我讲的这些，你们一时听不懂，很正常，回去都好好琢磨琢磨。”
教室里的一群人，懵懵地点了点头。
琢磨。
琢磨啥呀你们后面再聊什么，我们都没听明白好吗！！
可姚先生发了话，大家也只能收拾起东西，稀稀拉拉地往外走了。
走到门口，还有人忍不住回过头，又往那个角落看了一眼。
李东也站起身准备走。
“李东教授。”
姚先生却拦住了他
“你等我一下。”
姚先生回到讲台和助教说了几句这才朝李东招了招手。
李东走了过去。
“姚先生。”
“李东教授……”
上一篇：我家艺人太没上进心了
下一篇：挨打永久加防御，神魔都打不动我