学霸的模拟器系统: 第204章 科瓦利斯预言(求订阅求月票)
希尔顿酒店的行政套房里,浓重的雪茄烟雾在昏黄的落地灯光下盘旋。
这里没有闪光灯,没有记者,只有几个即使在2007年。也足以让硅谷地震的大脑。
杰弗里?辛顿坐在正中央的皮沙发上,手里的烟斗明明灭灭。
他没有问那些关于O(N)复杂度的工程细节,而是透过烟雾,抛出了一个近乎哲学的问题:
“年轻人,你究竟看到了多远的未来?”
林允宁没有立刻回答。
他走到房间一侧的白板前,拿起黑色的记号笔。
但他没有画那个大家熟知的,层层堆叠的神经网络结构图,也没有画反向传播的梯度链。
他在白板上画了一个扭曲的圆圈??一个莫比乌斯环。
“辛顿教授,我认为深度学习的未来,不在于‘深度’(Deep)。
林允宁转过身,笔尖点在那个扭曲的环上,“而在于‘流形’(Manifold)。"
房间里响起了一阵衣料摩擦的细微声响。
杨立昆(Yann LeCun)原本抱在胸前的手臂放了下来,眼镜后的目光变得锐利。
“现在的神经网络,本质上是在做盲人摸象。”
林允宁的声音平静而清晰,“我们通过堆砌几百层参数,试图用暴力的算力去拟合数据。但这就像是用无数个小平面去拼凑一个地球仪。
“但我看到的未来,是让网络学会‘看’数据的形状。数据不是散落在高维空间里的沙子,它们是铺在一张张卷曲的、复杂的流形表面上的。
“听起来很浪漫。”
角落里,一位穿着深灰色西装的中年人开口了。
埃里克?霍维茨,微软研究院的首席科学家。
他的语气里,带着典型的工业界务实(或者说固执)。
“但林先生,恕我直言,几何学救不了现在的AI。在小样本数据上,有着严格数学证明的支持向量机(SVM)和贝叶斯网络依然吊打神经网络。SVM是可解释的,我有完美的超平面。而你的‘流形,听起来更像是一种不可解
释的玄学。
“如果你还在迷信超平面,那你已经被时代抛弃了。”
还没等林允宁说话,杨立昆先跳了出来。
这位有着浓重法国口音的CNN之父,性格和他的算法一样直来直去,“在高维图像数据面前,你的超平面就是一张废纸。世界是局部的,pixel和pixel之间的关系是几何的,不是统计的!”
“而且,数据的规模正在发生质变。”
坐在沙发另一侧的一位年轻亚裔女性插话道。
刚刚加入普林斯顿的李飞飞推了推眼镜,语速很快:
“我们正在普林斯顿构建一个名为ImageNet的项目。当数据量达到千万级别时,传统的统计学习方法会因为算力瓶颈而崩溃。林先生那个O(N)的算法,可能是唯一能吃下这些数据的解药。”
争论在小小的房间里升温。
这就是2007年的AI界。
混沌、分裂。
旧秩序尚未崩塌,新王还未登基。
“笃、笃。”
辛顿用烟斗轻轻敲了敲烟灰缸,清脆的声音让房间重新安静下来。
“哲学讨论到此为止。”
老人的目光穿透烟雾,死死盯着林允宁,“林,光有漂亮的几何概念是不够的。你需要展示你的‘魔法’是如何运作的。在这个流形上,你打算怎么走路?”
林允宁笑了笑。
他回过身,擦掉了那个莫比乌斯环。
在这一刻,他的脑海中闪过的不是枯燥的代码,也不是复杂的线性代数。
而是那天午后,在内维尔市的“圣马丁”养老院里,那位患有阿?海默症的老教授。
记忆已经破碎,逻辑已经崩塌。
但当爵士乐的鼓点响起,那根枯瘦的手指依然能精准地敲击在每一个切分音上。
那是超越了语义的、大脑最底层的拓扑结构。
记忆可以破碎,但连接的模式永存。
林允宁在白板上写下了一个简洁到令人发指的公式:
x_(t+1) = x_t + Attention(x_t)
“这就是行走的方式。”
林允宁指着公式中的加号,“这叫残差连接(Residual Connection)。我们保留原始的信息xt??那是数据的本体。”
然后,他指着后面那一项:
“再加上注意力机制。这不是在做分类,而是在做‘自适应曲率变换’。网络在海量的信息流形中,通过注意力去感知哪里是平坦的,哪里是卷曲的,然后动态地调整自己的形状去贴合数据。”
房间里死一般的寂静。
刚才还在敲击键盘记录的杰夫?迪恩(Jeff Dean),手指悬停在了半空中。
蒙特利尔大学的本吉奥 (Yoshua Bengio)微张着嘴,眼镜滑到了鼻尖。
他们都是绝顶聪明的人。
林允宁不需要解释太多,他们一眼就看穿了这个公式背后的恐怖野心。
林允宁转过身,面对着这群即将掌握着全球人工智能命脉的大佬们,说出了那个后来被学术界称为“科瓦利斯预言”的论断:
“未来的模型,不再是针对特定任务训练的‘专家’。我们不需要专门训练一个翻译模型,也不需要专门训练一个分类模型。
“它将是通用的。
“它会通过’自监督学习(Self-supervised Learning),像人类婴儿一样,通过阅读海量的文本、看海量的图片,通过“完形填空”来学习世界的表征。
“而实现这一点的核心,就是注意力机制。它不是一种技巧,它是智能的本质??它是在海量信息流形中,寻找并锁定那些关键拓扑结构的能力。”
杰夫?迪恩合上了那台厚重的笔记本电脑。
“咔哒”一声,在寂静的房间里显得格外刺耳。
这位Google的工程之神站起身,整理了一下格子衬衫的下摆,走到了林允宁面前。
“林先生,Google Brain (谷歌大脑)正在组建一个新的团队。”
迪恩没有说废话,直接抛出了底牌,“我们需要你,还有你的整个团队。
“你可以保留以太动力的独立性,作为Google内部的独立实验室。我们可以提供你无法想象的算力??Google全球的数据中心,只要你一声令下,所有的TPU和GPU都为你运转。
“至于签字费......”
迪恩伸出了五根手指,“两千万美金。这只是给个人的。”
房间里的空气仿佛凝固了。
两千万美金。
对于一个大二学生,对于一家刚才还在为房租发愁的创业公司来说,这是一步登天的阶梯。
财富自由,学术资源,工程神话。
所有的目光都聚焦在林允宁身上。
方雪若如果在这里,恐怕已经开始计算这笔钱能买下多少栋曼哈顿的写字楼了。
林允宁看着杰夫?迪恩伸出的手。
那只手掌宽厚、干燥,代表着硅谷最高的工程权力和最庞大的数据护城河。
林允宁没有伸手。
他只是礼貌地笑了笑,向后退了半步,靠在了白板上。
“迪恩先生,Google有世界上最好的数据中心,那是你们的护城河。”
林允宁抬起手,指了指自己的太阳穴,然后又指了指窗外漆黑的夜空。
“但我的护城河,不在服务器里。
“以太动力的目标,不仅仅是造出更聪明的聊天机器人,或者是为了让广告推荐更精准一点。
“我要解开的是蛋白质折叠的秘密,是高温超导的机理,是黑洞视界的信息流。
“这些东西......”
林允宁顿了顿,眼神清澈而锋利,“Google的季度财报容不下,只有物理学容得下。”
杰夫?迪恩愣住了。
他设想过林允宁会讨价还价,甚至设想过他会要求更高的期权。
但他没想过,对方拒绝的理由,是因为Google的格局“太小”了。
几秒钟后,迪恩脸上的错愕变成了释然的笑容。
“好吧。”
他收回手,由衷地感叹道,“那让我们做朋友,而不是同事。Google的大门随时为你敞开。如果你哪天想用那些TPU算算黑洞,给我发邮件。谷歌对于前沿科学的兴趣,同样很大。”
“一定。”
这时,一直坐在沙发上的辛顿站了起来。
他走到酒柜前,倒了两杯威士忌,没有加冰。
老人走过来,将其中一杯递给林允宁。
“在这个房间里,很久没有听到有人谈论‘真理’胜过‘股价’了。”
辛顿举起酒杯,那双看透了AI寒冬的眼睛里带着笑意。
“敬计算机科学,敬物理学。敬疯狂。”
“敬未来。”
林允宁举杯,一饮而尽。
会议结束的时候,已经是凌晨一点。
科瓦利斯的街道上冷冷清清,只有路灯将行人的影子拉得很长。
酒店门口,方雪若和程新竹裹着大衣,在冷风中瑟瑟发抖。
看到林允宁走出来,方雪若立刻迎了上去,眼神里带着一丝紧张的探究。
“谈崩了?”
她是聪明人。看着林允宁手里没有拿任何文件,身后也没有跟着Google的律师团队,她就猜到了结果。
“嗯,崩了。”
林允宁双手插在口袋里,语气轻松得像是在说晚饭没吃饱,“杰夫?迪恩想买我们,我拒绝了。”
“一千万?”方雪若试探着问了一个数字。
“差不多吧。”
程新竹倒吸了一口冷气,感觉一阵肉疼:“那可是一千万啊......咱们得卖多少药才能赚回来?”
“也许永远赚不回来,也许明年就赚回来了。”
林允宁笑了笑,迈步向前走去,“但至少,我们不用向任何人汇报,也不用为了让用户多点击一次广告而修改算法。我们只对自己负责。”
方雪若看着他的背影,无奈地摇了摇头,嘴角勾起一抹笑意。
“疯子。”
她低声骂了一句,然后踩着高跟鞋跟了上去,“行吧,既然没卖身,那明天我就得去把那两个专利授权书签了。人家虽然不如Google大方,但至少能让我们公司继续活下去。”
三人并肩走在空旷的街道上,步伐轻快。
虽然拒绝了巨款,但那种掌握自己命运的自由感,比任何支票都让人踏实。
回到酒店房间,林允宁并没有立刻休息。
今晚的讨论让他大脑极度兴奋,关于那个通用模型的构想正在脑海中疯狂生长。
他打开电脑,准备记录下刚才的灵感。
屏幕亮起,邮箱图标上挂着一个红点。
发件人:Nature Editorial Office。
这应该是关于那篇GUP(广义不确定性原理)修正项的回复。
林允宁点开邮件,原本轻松的表情瞬间凝固。
邮件的标题不是“Accepted”,而是一行带着寒意的警告:
Subject: Urgent Query Regarding Your Submission (Ref: PHYS-2007-08-1244)
【亲爱的林先生:
关于您论文《零磁场下石墨烯中的量子反常霍尔效应》中新增的关于GUP修正项的讨论章节。
一位审稿人(Referee #3)提出了严厉的质疑。他认为您的推导存在根本性的物理图像错误。
审稿人意见:‘作者试图在凝聚态系统中引入量子引力效应,这简直是荒谬的。那个0.5%的偏差更可能是某种未被校准的系统误差。这种没有坚实实验基础的理论臆测,不应该出现在《Nature》上。’
编辑部建议您在48小时内删除该章节,否则我们将不得不重新评估整篇论文的录用决定......】
林允宁盯着屏幕,手指在触控板上停住了。
Referee #3
不用猜也知道,这是一位来自高能物理界的保守派大佬,正在捍卫他们神圣不可侵犯的领地。
?掉?
只要按下删除键,这篇顶刊论文就能稳稳发表,他的学术地位就能再上一个台阶。
如果不?......
林允宁看着窗外的夜色,眼中闪过一丝倔强。
那是他看到的真理。那是时空的颗粒。
如果连看到的真理都不敢坚持,那他还搞什么科研?
“想让我删?”
林允宁冷笑一声,手指重重地敲击键盘,新建了一封回信。
“那就先来辩论一番吧。”