有人提出质疑。
“残差连接和层归一化，非常巧妙的设计。而且他们的位置编码方案，完美地补偿了抛弃循环结构后丢失的序列顺序信息。”
肖恩·里格沉声说道。
“我们手头的RNN优化项目的资源投入需要停一停了，统合Transformer专项组，我们要在最短的时间内吃透它。”
同样的场景，也发生在各个AI企业。
这些嗅觉敏锐的从业者，比任何人都清楚技术代差带来的严重后果。
他们无心理会网络上的流言蜚语，第一时间调整了路线。
而且他们也在等待岑言发布最新的大语言模型。
国内，反应最快的则是那些手握重金的科技资本。
周妍忙得团团转，电话接个不停。
“好的，王总，我明白贵公司的合作诚意，但我们目前还在封闭测试阶段，商业化授权的方案我们还在制定中。对，岑主任下个月要去巴塞罗那参会，会议结束前我们暂时不接受独家买断合作。好的，再联系。”
周妍挂断电话，长出一口气。
这已经是今天上午接到的第五个国内互联网大厂副总裁级别打来的电话了。
他们全都在排着队寻求商业化合作。
收益拉满了。
这些消息不胫而走。
毕竟商业场上，谁会不在意这些呢？
而当这些消息传到罗伯特耳朵里。
他气的三尸神都快蹦出来了。
他原本指望通过负面舆论把岑言的名声搞臭，多方面围剿岑言的声誉。
结果弄巧成拙，反而帮他们做了一次全球宣发。
自己成冤大头了。
罗伯特看着华尔街财经媒体关于各大科技公司紧急研究Transformer架构的报道，就知道舆论战没救了。
现在唯一的办法，就是在学术层面上将这项技术全面否决。
该开始第二回合了。
他把希望寄托在了哈里斯身上。
这位前谷歌大脑的高级研究员联合了三位IEEE会士，以及四个顶尖算法团队，正式成立了一个的证伪小组。
他们的目标很简单，找到岑言的漏洞。
把Transform架构证伪。
“各位，我们的目标很简单。”
哈里斯笑得老神在在，胸有成竹。
“找出这个所谓的自注意力机制在工程实现上的漏洞，我个人坚信抛弃循环结构绝对无法完美处理序列的绝对位置信息。”
一名头发花白的IEEE会士推了推眼镜。
“哈里斯先生，我先安排我的团队去测试它的位置编码逻辑。我不太相信那种简单的正弦和余弦函数交替，就能让模型在不依赖历史隐藏状态的情况下，准确分辨出单词的先后顺序。”
“没问题。”
另一名专家也加入进来。
“那我去拆解他们的多头注意力模块，并行计算确实快，但将特征空间强行切分成多个头，必定会导致信息表达能力的下降，我要看看他们的特征丢失率。”
证伪小组分工明确，带着要在鸡蛋里面挑骨头的心态，一头扎进了工作中。
他们原以为，岑言他们这么着急做出来的东西，一定会存在或多或少的漏洞。
哪怕是效果的回测失效，也值得攻击。
然而。
随着证伪过程的深入，实验室里的气氛开始发生微妙的变化。
第一天，负责测试位置编码的团队提交了报告。
那名头发花白的会士看着手里的测试结果，表情变得有些古怪。
“哈里斯，情况有点不对劲。我们尝试输入了极度混乱的语序测试集，试图让模型产生位置混淆。”
老专家翻开报告的一页。
“但他们的正弦和余弦函数位置编码，能通过线性变换完美地表达相对位置关系，模型对位置的感知比传统的RNN更加稳定，完全没有出现位置信息丢失的状况。”
哈里斯皱起眉头。
“这不合理，再试一试，那多头注意力模块呢？特征丢失率跑出来了吗？”
另一位专家把电脑屏幕转向哈里斯。
“哈里斯，你最好自己看看这个。我们试图证明多头切分会导致信息降维损失。但事实上......”
他愁眉苦脸地指着屏幕。
“他们用了一个十分巧妙的拼接与线性映射操作，能让多头机制成功保留了信息，让模型学会在不同的子空间里同时关注句子的语法、语义和情感色彩。”
哈里斯神色一紧。
“不可能，绝对不可能！”
他一把挪过电脑，把手里的材料倒扣在桌上，他要亲自上手测试模型的梯度反向传播过程。
他断定，这样一个缺乏门控机制的庞大网络，在进行深度堆叠时，必然会遭遇灾难性的梯度消失或梯度爆炸问题。
哈里斯调用了一套针对性的极限测试脚本，试图用超深层的网络结构去强行压垮Transformer。
测试脚本开始运行，哈里斯紧紧盯着屏幕上的损失函数曲线。
时间一分一秒地过去。
曲线平滑下降，没有崩溃迹象。
细微的波动并不能影响整体的运行。
哈里斯有些汗流浃背。
“哈里斯，你发现什么漏洞了吗？”
老专家凑过来问道。
哈里斯盯着屏幕愣神。
他想要解释一下原理问题，可这个时候，他发现自己已经没有办法解释了。
他张了张嘴，说不出话来。
这帮拿着罗伯特高额咨询费、信誓旦旦要挑刺的专家们此时面面相觑。
他们原本是带着显微镜来找BUG的。
可是在一边讨论、一边实践的过程中，他们骇然地发现，这架构竟然规避了他们所能考虑到的所有工程缺陷。
就像是创造者已经提前预判了他们的预判。
“这对吗？”
一名专家盯着电脑喃喃自语。
“怎么越证伪，越觉得这东西好呢？”
越研究，越心惊肉跳。
这帮在人工智能领域深耕了半辈子的权威专家，在这一刻，甚至有些忘记了自己受雇于罗伯特的立场。
强烈刺激占据了他们的大脑。
“这个叫岑言的年轻人……”
那名头发花白的会士由衷地感叹道。
“他的思路到底是怎么跨越这么多技术障碍的？”
哈里斯颓然地靠在椅子上。
他知道，罗伯特的任务是完不成的。
面对这样的架构，任何强行贬低都只会显得他们愚蠢和无知。
毕竟他们现在看着这个架构。
还需要抱着学生学习的心态。
哈里斯想了想，正准备拿出手机，却接到了罗伯特的电话。
“哈里斯，你们的证伪报告什么时候能出来？NIPS大会还有不到一个月的时间，我需要那份报告来摧毁岑言的信誉！”
罗伯特在电话里大声催促。
电话那头沉默了许久。
“罗伯特先生。抱歉，我们出不了那份证伪报告，Transformer架构并没有什么，我们现在能找到的漏洞。”
哈里斯语气疲惫。
“如果强行出具伪造的评估报告，我们几个人的学术生涯就全毁了。”
听见哈里斯的话。
罗伯特愣住了。
“你说什么？没漏洞？你们这群拿着我钱的废物！连个挑刺的报告都写不出来？”
罗伯特气急败坏地大骂。
“这个世界上怎么可能会有没漏洞的东西？如果是因为钱的话，我可以加钱！”
“这不是钱的问题。”
哈里斯苦笑着想要解释。
“罗伯特先生，您不明白这意味着什么，我现在建议您尽早调整投资方向......”
哈里斯的话还没说完，罗伯特直接切断了通话。
他气闷了，胸膛起伏不定。
这也不行，那也不行。
那怎么样才行嘛！
罗伯特想看眼手机，但社媒网络上，关于岑言和Transformer的讨论热度早爆了。
他打开就看到了推送。
越看越生气。