我的学习群里全是真大佬 第476章

  “那你再往深处琢磨琢磨,这帮巨头为什么不约而同,非要赶在这个节骨眼上改写技术路线?”

  李东看着他:“为什么?”

  “撞上Data Wall(数据墙)了呗。”

  “互联网上那些高质量的预训练语料,Github开源代码、arXiv论文库、优质百科,早就被各家用爬虫吸干了。”

  “万亿参数规模的模型每年胃口都在变大,但是现在大家都没东西喂了。”

  “所以你看今天台上讲的那些套路。”

  唐杰教授抬了抬下巴。

  “在Inference端堆算力,靠慢思考平摊成本,这叫避开数据墙。”

  “花重金搞RLHF,弄一套刁钻的Reward Model去给生成的合成数据打分提纯,靠模型自己左右互搏,这叫虚空造数据。”

  “说穿了全是被高质量数据枯竭给硬生生逼出来的。”

  李东若有所思地点了点头,然后又想到了一个问题。

  “那模型架构呢?顶会的Paper全公开了,哪怕只照着公式复现他们不怕别人追上吗?”

  “Paper这玩意儿,只是个前瞻PR。”唐杰笑了笑说道。

  “可真正拉开代差的核心壁垒有两样,Paper里从来都不会写半个字。”

  “一样是Infra,另一样是基于真实交互反馈的数据飞轮。”

  “这个护城河一旦转起来,后来的人光靠砸钱买算力,是不可能弯道超车的。”

  李东沉默了。

  就在这时一个头发花白的老者端着咖啡走了过来,隔着几步就笑着打招呼。

  “唐!”

  唐杰回头一看,也笑着迎上去握手。

  来人是KAIST的金教授,做具身智能和机器人方向的,前两年起就一直在用唐杰他们开源的视觉-语言大模型跑端侧部署的控制实验,两人在别的学术论坛也碰过几面。

  这一回韩国做东道主,金教授热情得不行,张口就邀请唐杰会后去他们实验室里坐一坐。

  客套了几句唐杰很自然地介绍道。

  “金教授,给您介绍一下,这位是李东教授。”

  “李教授,幸会。”金教授礼貌地伸出手,嘴里默念了一遍这个名字。

  李东。

  这名字,听着有点耳熟。

  就在他暗自琢磨的工夫,唐杰补了一句。

  “菲尔兹奖得主。”

  金教授握着李东的手,整个人都僵住了。

  然后连声音都有哦点变调了。

  “哦!”

  “原来是您呀!”

  金教授先前那点矜持早就没了,握着李东的手连晃了好几下,又是久仰,又是掏手机,非要留个联系方式不可。

  临走前还说他们基础科学研究院那边一直想请李教授去做场高维流形的报告,这回可算逮着真人了。

  金教授前脚刚走,又有人凑了过来。

  这回是国内一家大厂智能云那边的何姓负责人。

  他先客客气气地同唐杰打了招呼,两边毕竟在B端生态上是同行,所以还是很熟的。

  等唐杰把李东介绍给他的时候,这位何总也是一样的流程。

  先是客气地点头,等听到“菲尔兹奖得主”时,整个人一下热情了起来。

  “李教授!久仰久仰!回头到了国内,一定登门拜访!”

  再往后,来打招呼的人,就一拨接着一拨了。

  有欧洲顶级实验室的主席,有硅谷核心引擎组的资深研究员,有挂着参展商工牌的大厂战略决策人,也有壮起胆子凑过来想合影的学生。

  唐杰在圈子里的江湖地位摆在那里,走到哪儿都少不了人来寒暄。

  而每一回,他都会笑呵呵地把身边的李东介绍一遍。

  十个人里,总有八九个走一遍熟悉的流程

  如此三番五次。

  到了下午,李东也来了这场顶会的消息,便在会场里传开了。

  ……

  展区一角的咖啡台边,两个挂着参展商工牌的人正凑在一处闲聊。

  一位是某家顶级云计算大厂的战略总监,另一位是一家头部AI芯片公司的市场负责人。

  “李东也来了。”战略总监说。

  “是啊。”

  “真没想到这尊做纯数的大神也对AI感兴趣。”

  “哎,这有什么想不到的。”

  “现在底层算力和AGI范式就是黑洞,什么前沿学科都得往里吸。”

  “你看陶哲轩他们那帮搞纯数的,不也全下场玩AI for Math了吗?估计李东这趟过来,也是想在神经正切核(NTK)或者参数化优化那边找降维打击的切入点。”

  市场负责人想了想,深以为然地点了点头。

  两人没再多说,目光却不约而同地往大厅李东所在的方向投去。

  ……

  与此同时,主会场侧面的贵宾休息区。

  亚当·凯利、戴维·朗、西蒙·哈特,正在和彼得·诺维格聊天。

  几个人有一搭没一搭地聊着。

  就在这时,一个人从休息区外快步走到了西蒙·哈特身边,附在他耳边低声说了一句什么。

  西蒙·哈特诧异了一下。

  随后他点了点头表示知道了。

  “是出什么Bug了吗?”亚当·凯利随口问道。

  西蒙·哈特看了几人一眼,言简意赅。

  “李东也到了。”

  在场几个人都怔了一下。

  尤其是彼得·诺维格。

  当初克拉拉在电话里报出这个名字的时候,他确实没想起来这人是谁。

  可当天他就回过味儿来了。

  菲尔兹奖史上最年轻的得主。

  前一阵子,这名字在学术圈的新闻里被疯狂轮播,可能其他行业不知道李东长什么样,但是绝对没人不知道这个名字。

  而且李东这个人,在深度学习的深水区里,本来就是个香饽饽。

  当年那套降维算法1.0,很多大厂其实已经私下在做适配了,虽然还不是完全适配,但整个行业其实也是吃到了一点红利的。

  而且可别忘了。

  李东手里还有一套到现在也没开源的降维算法呢。

  那东西只要落到谁的手里,谁就能将整个大模型的训练效率和内存开销,当场撕开代差。

  所以这一瞬间在场那三个人,都戒备地看了一眼身旁的另外两位。

  然后,三个人几乎是不约而同地朝诺维格打了声招呼就转身朝着同一个方向去了。

  诺维格望着那三道离开的身影也站起身,跟了上去。

  那套降维算法,他当然也感兴趣。

  不过比起这个,他更在意的是……

  这个李东和自己的宝贝女儿,到底是什么关系?

  难道,真的仅仅只是合作者关系吗?

第400章 诺维格教授你在想些什么鬼!

  大厅里李东身边的人越聚越多了。

  英伟达负责学术生态的SVP过来打了声招呼,Meta基础模型框架团队的一位技术主管也过来换了名片。

  这些人无一例外,都是先礼貌地同唐杰教授寒暄一句,随后便掉转过头主攻李东。

  什么名片,私人邮箱,社交账号,但凡能留的全部都留了。

  其中一家硅谷头部算力芯片公司的商务VP,仗着自己长年健身挤到了最前面。

  他刚想在近一点的时候,就感觉自己撞上了一堵墙。

  他抬头看去,只见一个面容冷峻的男人,不知道什么时候已经站在他和李东中间。

  男人用标准的英语说道。

  “先生,请保持距离。”

  他下意识看了一下男人的腰间,西装下摆的位置,似乎绷出了一个眼熟的轮廓。

  这位VP咽了咽口水。

  “好的。”

  “我会注意的。”

  说完他就规规矩矩地退后了半步。

  说起来这些老狐狸对李东,明显比对唐杰要狂热得多。

  这倒也不难理解。

  唐杰手握千亿参数的开源基座模型,那是同行大家给他打招呼也最多算是圈内的礼貌罢了。

  而李东手里说不定还藏着一套能提升行业竞争力的降维算法呢,孰轻孰重大家自然能分得清。

  就在李东疲于应付的时候,一个声音从人群外传了进来。

  “李东教授,你好。”

  人群渐渐的让开了一条缝隙。

  三个人走了过来。

  为首的那位微笑着伸出手,自报了家门。

  “我是GPT的亚当·凯利。”

  剩下的两人也自我介绍道。

  “Gemini,戴维·朗。”

  “Claude,西蒙·哈特。”

  这三位可以说是今天这场顶会上,商业价值最高的大佬了。

  凯利率先开口。

  “李东教授,早就听闻您的大名了,今天见到本人不胜荣幸啊。”

  李东很想客气地回上一句“我也久仰您的大名”。