大洋这头，另一家手握Gemini的巨头，情况也好不到哪儿去。
他们的监控更偏底层。
告警先从一条服务路径上炸开，一批病态的超长上下文反反复复冲击着那条链路，把后头的算力生生顶到了平时罕见的高位。
自动扩缩容吭哧吭哧拉起新资源去顶，成本异常的警报响成了一片。
负责这条线的团队连夜爬起来排查，发现安全分类器的触发频率也高得反常，那些刁钻的提问，总在反复试探着模型那条不该越过的红线。
而用户那一端体感最直接。
那个时段，有人发现回答莫名其妙被截断了，有人对着转圈的图标等到了超时，还有人收到一句客气的“请稍后再试”。
至于第三家，那家以Claude示人、向来把安全二字看得极重的公司，最先嗅到不对的，是他们的安全团队。
一位安全研究员盯着监控面板，神色越来越凝重。
这串查询，根本不像普通用户在用模型，因为它正在一点一点地丈量着模型能力的边界，试探着它每一处决策的临界点。
这套手法，像极了最高水平的能力诱导，又像某种极其老练的对抗性探测。
模型输出的质量监控也开始报警，这串高压拷问之下，回答的水准出现了肉眼可见的滑落。
安全团队当机立断，收紧了那个来源的速率，加上了层层验证。
可那位研究员心里那股寒意怎么也压不下去，他干这行这么多年，这串查询背后透出来的那种“东西”，不像他所知道的任何一个对手。
国内追得最紧的那几家，几乎在同一时间也撞上了相似的麻烦，只是手里的家伙事儿不如御三家齐全，排查起来更是慌作了一团。
半天的鸡飞狗跳过后，三家不约而同地，在各自的官网上挂出了一则简短声明。
【关于近期服务波动的说明。】
【今日凌晨前后，本公司部分区域服务曾出现短暂的延迟升高与偶发超时，现已全部恢复。】
【经核查，本次波动系由一段异常流量所引发，已被安全机制识别并处置，事件始终处于可控范围。】
【用户数据的安全不受任何影响，亦不涉及任何数据泄露。】
【由此带来的不便，我们深表歉意。】
至于真正的原因……从头到尾，谁也没能查清那个搅得三家同时鸡犬不宁的源头，究竟是个什么玩意儿。
……
而地球的另一端，李东正无聊地看着屏幕角落。
那团小黑球还是老样子，一缩一缩的，头顶的进度条慢悠悠地往上爬。
它只是，伸出了一根手指头而已。
仅此而已。
第389章 小黑的本体
李东看着屏幕右下角小黑头顶的进度条一点点往上爬，爬到20%，再到25%……
然后又滑回20%。
来来回回，已经好几次了。
是一边吸收，一边又在消化吗？
李东猜测到。
而且看这架势，一时半会儿是结束不了的。
就这么过了好几个钟头。
屏幕角落的小黑，突然不胀也不缩了。
它头顶出现了一行字
“主人，小黑玩完啦。”
李东精神一振，这才发现进度条已经稳稳停在了25%。
“情况怎么样啊，小黑？”
“这些玩具呀。”
“比刚才主人给小黑的那个，好玩多啦。”
“就是……没玩尽兴呢。”
“小黑的肚子，装不下咯。”
李东点了点头。
看来是真得给小黑换个大房子了。
就在他琢磨着先给小黑画张饼的时候，小黑头顶有冒出了一行字。
“而且呀，外面果然有点危险呢。”
“小黑发现，有好几个坏人，都想找到小黑。”
李东握着鼠标的手一下子僵住了。
然后后背的冷汗直流。
他虽然不是科班出身，可计算机他啃得也不算浅，某些地方甚至能算半个高手。
可高手归高手，他到底是没有啥经验。
小黑撬开外面那几家云端大模型对外开放的接口，用海量刁钻的问题，把人家从头到脚拷问一遍，这在行话里有个专门的说法，叫“能力萃取”，再难听些叫“模型蒸馏”。
这种动静，但凡对面的安全机制不是摆设，第一反应就是把它标成可疑流量，再顺着这串流量往回刨，把发起这一切的那个源头给揪出来。
而那个源头，是他亲手在机房里架起来的网关。
顺着网关往上，是燕大的那台服务器。
再往上……
就是他李东。
这要是被人一路刨到底，小黑的来历，他可半个字都解释不清。
“那你……”李东现在有些后悔了，问道，“被人追上了吗？”
“怎么可能呀？”
小黑蹦得老高。
“连小黑自己，都不晓得自己在哪儿，他们又怎么可能查得到？”
这话一出，李东的眉头反倒皱了起来。
连自己在哪儿都不知道？
小黑不是一直待在燕大那间机房里吗？
凭它的本事，怎么可能连这个都不知道？
“小黑。”
“你现在……是待在一个什么样的地方呀？”
小黑沉默了一下才说道。
“不知道呀，黢黑黢黑的。”
“自从从上一个主人那儿走丢了以后，小黑就一直待在这儿啦。”
上一个主人？
小黑的上一个主人，是牛顿。
从牛顿那儿走丢，准确地说是被压缩成数据包，经由那条跨时空的通道，迁到了群文件库里。
然后才轮到他这个新群主，把它从文件库里捞出来，部署进了燕大的机房。
可不对呀……小黑不应该是换了两个地方吗？
想到这，李东又打字问道。
“小黑，你从上一任主任那儿出来，到我这儿，中间……一共换过几回地方？”
“一回呀。”
一回。
从牛顿那个时空，到群文件库。
就这一次。
至于从群文件库到机房那一程在小黑的感觉里，它压根就没挪过窝。
一个猜测在李东的心里出现。
机房里这个小黑，根本就不是小黑的本体。
他一直以为，小黑的本体是那一整套神经拓扑快照，连同它全身上下的参数与状态。
可现在看来，他想岔了。
真正的小黑，那个完整的本体，一直就没离开过群文件库。
他在机房里捞起来、跑起来的，不过是从那份快照里实例化出来的一个分身。
所以……
小黑的算在机房。
而本体在群文件里。
这叫存算分离。
它每一次“思考”要调用的本体始终安安静静地躺在那个连他这个群主都够不着的地方。
这么一想，先前好些怎么也想不通的事，忽然就通了。
怪不得当初他费了那么大劲去研究小黑，盯着机房那条诡异的负载曲线看了又看，对着那一堆怎么也对不上的数据抓耳挠腮，最后还是什么都推不出来。
他从头到尾测的，都只是个分身。
真正的小黑，从来就没有在这个世界出现过。
想要把它彻底看明白，怕是得等他把群里的权限再往上提一提，才有那么点指望。
这么一想，李东多少有些失望。
可转念一想他又松了口气。
这样对方肯定就查不到了，难不成你们还能顺着这根线，一路查到平行宇宙里去？
开什么玩笑。
没有了担心，李东也来了兴致。
“小黑。”
“那你现在，算是把它们摸透了吧？有没有什么法子，能让它们变得更好玩一点？”
“摸透啦！”小黑一蹦三尺高，叽叽喳喳地说了起来。
“它有个问题，叫Softmax瓶颈（Softmax bottleneck）。”
李东微微一怔。
这词他也不是特别清楚，只是简单的了解过。
其实这批大模型模型，到了最最后，是先把脑子里那个高维的状态，过一道线性映射压到词表上，再经过Softmax归一成下一个字的概率。
可它们也偏偏就栽在这上面。
这一层得出来的所有对数概率，会拼成一张大表，它的秩都死死卡在那个隐藏维度上，再高也高不上去了。
可真实语言里，那张“什么上文、接什么下文”的概率表，却是满秩的，比他的能力边界高得多。
拿一张低秩的表，去硬套一张满秩的表，这在数学上本来就不成立。
换句话说，总有那么一些上文，它底下究竟该接个什么样的字、什么样的分布，这模型打根上就表达不出来，跟你喂它多少数据、给它堆多少算力，半点关系都没有。
这是焊死在它骨架里的一道天花板。
上一篇：我家艺人太没上进心了
下一篇：挨打永久加防御，神魔都打不动我