临近晚饭时间,吕海颖带着女儿钟爱如期而至,刚过来也没立即提深度学习的事,只是和刘琬英闲聊。
俞兴则是饶有兴趣的逗了一会钟爱,感慨孩子长得快。
吕海颖等到饭菜上桌才谈到深度学习的动静,认真请教道:“师兄,你觉得深度学习真的会在近期成为推动公司发展的力量吗?”
“近期是多近,一年两年?那估计不行。”俞兴斟酌道,“三年五年,那可能就是一件各大公司都必须放在战略层面的事了。”
吕海颖心里一沉:“三年五年……这就是近期了啊。”
对于一家大公司来说,三年五年的时间不算长,但放在特殊节点确实就可能改变一切,比如,从PC互联网到移动互联网。
“不用怕,碳硅数据手里有着优势,产品上有那么多用户,你们还是要服务好用户,在这种基础上再重视深度学习。”俞兴现在更加平静,“DLF可以更纯粹,但纯粹未必就能做好,我们在这方面已经沟通过了啊。”
吕海颖放下筷子,苦笑一声:“沟通是沟通过,但师兄你忽然要飞去美国挖人,这……这有点吓人了,DFL手里到底有什么突破?我们都有点怀疑它明年就推出什么颠覆产品把我们给革了。”
俞兴摇头:“不可能的,那也不符合客观规律,我也是静极思动,我和京城也打过招呼了,到了那边不会乱跑乱动,安全还是有一定保障的。”
“师兄,DLF的TD系列有没有希望成为下一个超级APP?”吕海颖抿了抿嘴,还是想听到更进一步的判断。
俞兴沉吟再三后摇头道:“说不准,这一百米可能只跑了10米,但是,关于这个事,年度报告里也说了,自注意力机制是一个有望突破的方向,TD-1再次证明这个判断,有这样的判断就能拿到很多资源和支持,后续发展必然更快。”
“我希望你们能真正的重视,但也是从碳硅数据的考量来看待这个事,另外,TD-1的编码器方案对搜索、广告、审核、翻译等业务都是有帮助的,这是能很快见效的。”
吕海颖边吃边思考,过了一会还是说道:“师兄,你的重视让我有点担忧了。”
“不要管我,我认为必须要做的,那我会做的。”俞兴说道,“你们就是要从碳硅数据出发,打好国内和国外的竞争,也同步重视深度学习的发展。”
吕海颖拿到了师兄的态度,但这顿饭仍然吃的心里沉甸甸。
碳硅数据管理层一直以来的自由度都很高,虽然有时候也会抱怨师兄重心放在新能源汽车上面,但不少时间瞧着公司发展到现在的局面也觉很有成就感。
可是,这一次师兄一反常态的为了深度学习动身出国,那种战略层面的压力立即就压了过来。
本以为对深度学习足够重视,但现在看来还是不够。
吕海颖晚上回到家,第一时间便被钟志凌追问情况。
“兴哥怎么说?DLF还捏着突破吗?”钟志凌同样震惊于师兄的动向,但今晚有会要开,没法抽身,只能回来等消息。
“DLF应该是没有,它就是已经把最新的研究都公布出来了,那个技术路线也很有助于我们现在的业务,这一点是可以确定的。”吕海颖迟疑道,“就是师兄的态度……”
她想了又想,有点无奈的说道:“我觉得师兄其实也不是特别确定深度学习这一块的未来,但对他来说,DLF和碳硅数据都有份,哪边做出来就都是可以接受的。”
钟志凌想说话却没说出来,无声的摊了摊手。
半晌之后,他有点不甘和委屈:“我们才是正统啊,是从金陵就一直跟着兴哥的啊。”
“私谊是私谊,难道你钟志凌得到的不够多?难道师兄亏待你了?”吕海颖呛了一句,“事是这个事,我回来的路上也想了想,就我个人而言,其实是有点担心碳硅数据在战略层面行差踏错,我们又是第二时间才知道师兄的动向。”
她喝了口水,继续说道:“碳硅数据过去是在师兄规划的战略层面里发展,这次忽然冒出来的深度学习占据了我们的视野,是超出原先战略规划的东西,所以……是有点慌的。”
吕海颖承认了情绪波动的原因,但又说道:“不过,师兄其实一直都是把话说明白的,过山峰的年度报告提到深度学习,我们也早知道DLF,他又一直在抖音谈这个事,他没有藏私,也不是偏爱,就是正常推进罢了。”
钟志凌摸了摸下巴上的胡渣,琢磨了一会,突然冒出来一句:“我不,碳硅数据就应该得到兴哥的偏爱。”
吕海颖看着瞬间孩子气的丈夫:“……”
“DLF可以独立的发展,但我们更有钱。”钟志凌展现了志气,“我们也更有资源,如果深度学习真的有路可走,那我们也能走出来。”
吕海颖低头思考几秒,然后抬头说道:“挺好的,这大概就是师兄想看到的。”
钟志凌“嗯”了一声,心里盘算内部资源的更好分配方案。
DLF的模型开源以吴恩达的判断来看,最少也需要一个月左右复现,从零开始更是要半年往上,但是,仅仅两周时间,来自谷歌的团队就宣布复现了TD-1在11项NLP任务上的成绩。
甚至,谷歌还进一步刷新了这个成绩。
“我们很高兴看到DLF在Transformer方案上的开拓发展,事实证明,无论是DLF还是我们,都还没有摸到这套架构的上限。”
“基于Transformer的深度学习模型有望成为新一代通用模型的基座。”
谷歌显然在类似研发上早就存在进度,所以如此快捷的复现并进一步推高了TD-1的成绩。
这种间隔两周的成果证实了DLF在深度学习领域的成果,再一次激起了全球深度学习领域的热情。
只是,相较于学界的躁动,媒体这次就冷静很多,仍然报道了DLF被证明的事情,但没有大肆渲染人工智能的突破,其中一个原因也是俞兴在抖音上更新了批评这类风向的视频。
国内大厂在DLF开源的时候就已经开过一次会,这次见到谷歌复现又开了会。
百度的高级副总裁向海龙,在会议上提到聊到这个事,颇有些得意的说道:“DLF开源开的好啊,谷歌能复现就证明它没做什么手脚,俞总这次是有点傻了,我们可以直接踩在他们肩膀上推研究。”
现任百度研究院院长王海峰听到这种话,神色复杂的说了句:“DLF肯定不会造假的。”
向海龙注意到王院长的不自在,也不觉有什么不合时宜,直接说道:“那也不能凭他一张嘴就行,反正,DLF从我们这挖了那么多人,我们踩着他们肩膀也是应该的!”
王海峰保持沉默了。
“DLF是自愿开源,我们当初也没有卡人。”李艳红有点担心王院长走前任院长们的老路,找补了句,又问道,“王院长,你们也全面研究了TD-1的方案,觉得怎么样?”
“编码器预训练显然是有很大的价值,TD-1的成绩已经把这一点表现出来了。”王海峰组织措辞,“像搜索和信息流等方面都很依赖更加精准的语言理解能力,TD-1有帮助我们在这方面提升的潜力。”
李艳红听到这里,已经微微点头了。
王海峰顿了顿,思索着说道:“不过,就像谷歌说的,这些都是基于Transformer的架构,但Transformer是用了编码器和解码器,而TD-1是只使用前者,如果沿着Transformer的机制走,我们也可以试试解码器的研究。”
李艳红关心了句:“解码器的方案对我们的搜索也可以提供和TD-1一样的帮助吗?”
“从原理上可能还不行,但那也许是一个有趣的方向。”王海峰说道,“Transformer的机制还没有完全探索完,我相信DLF也是摸索出来的。”
李艳红不觉得有趣。
他翻看来自研究院的汇报文件,再回想王院长的总结,说道:“我们还是应该进一步追赶TD-1的研发,同时做好公司业务对这方面技术的吸收,一方面提高业务水准,一方面推进研发,这才是最佳的战略应对。”
王海峰忍不住说道:“TD-1未必是最佳的Transformer机制方向,我们可以分出来一个团队去……”
李艳红打断,笑着说道:“必要的时候也是可以相信俞总的,我们要形成以战养战的循环,谷歌也说TD-1的架构还没到上限,我们先把它推到上限。”
DLF做了,谷歌做了,俞总也说了,那就直接踩着他们的判断往前推。
这就是在他们正确的战略上继续正确。
? 894 归心(4K)
俞兴有意让DLF在碳硅系之外保持独立,碳硅数据公司对此是感受最深的。
尤其钟志凌和吕海颖,他们更能听到师兄的真心话,自然就知道这方面的考量。
不过,随着谷歌复现DLF的成果并给出极高评价,国内最早起步的百度想要跟风追赶,阿里和企鹅也再次审视了来自临港的动作。
阿里在去年刚刚成立达摩院,宣布3年投入1000亿华夏币,AI和机器学习便是核心投入的方向之一,但短时间自然不会有什么成果。
企鹅这方面的动作更为迟缓,虽然也成立了实验室进行布局,去年还增设了西雅图实验室,但不论人才还是算力都不如百度和阿里,更多还是在聚焦云计算的业务。
这次面对DLF的突破,企鹅的态度仍然比较审慎,初一开了线上会议,又在月底才开了总裁办的线下讨论会议。
重点议题是TD-1模型在当前业务、未来发展上的影响。
作为企鹅AI实验室的领头人,张潼被点名参加这次会议并提供意见,与业界同行一样高度称赞了TD-1模型所具备的开拓意义。
只是,当总裁任宇希问起这种模型和自注意力机制所能带来的实际影响,那就不好回答了。
张潼感觉到自己的答案不让一众高层满意,只能提及谷歌、微软等国外大厂的布置,又提到百度研究院的先见之明,希望企鹅能够分配出更多的资源提供给AI实验室。
任宇希对这种话微微摇头,彻底表明自己的观点:“我看深度学习的投入是个无底洞,百度要是真有先见之明,那吴恩达一帮人就不会出走了,百度之前要ALL IN AI,但实际上也没ALL出什么成果。”
“大家都说这次临港临港怎么样,可是,TD-1模型是DLF做出来的,我打听了,这个基金会现在还在想方设法的从外部融资呢。”
“如果俞兴真那么重视深度学习的发展,他应该用碳硅数据来推动才是。”
“我认为不用听风就是雨,得小心俞兴有意无意的战略欺诈,他还挺擅长那个。”
张潼听到总裁这么说,几乎就想拍案而起了。
他强忍心情,缓缓说着相反意见:“任总,这件事不是这么看的,TD-1模型在NLP任务上取得的是……这么说绝不是夸张,它是碾压级的效果,谷歌的复现可能确定了它会成为我们研究语言理解任务的标准。”
“Transformer和双向预训练的方案,一定会大力推进行业对理解上的研发,现在就是需要我们奋起直追的时候,我听说百度也在加大资源的投入。”
任宇希笑了一声:“百度啊,它是不得不投,它就指望这个了,还想着用自动驾驶翻盘呢,但我看要真有自动驾驶,也是碳硅集团能搞出来。”
他说到这里又有点不满的问道:“我看你们实验室的汇报,既然这么推崇,为什么在DLF做出来之前完全没有对自注意力机制的重视和成果?”
张潼笑了。
他师从机器学习的权威弗里德曼,曾经是美国罗格斯大学的终身教授,在IBM、雅虎和百度都有过任职经历,被挖来企鹅后便组建了AI实验室,可是……
“任总,我这个实验室一年只有几亿的预算,方向还分散在各项业务上面,又分成好几个团队,你让我们怎么重视呢?怎么去研究前沿呢?”
张潼说到这里干脆直接对着企鹅掌门人Pony直言不讳:“企鹅的AI实验室完全不像是实验室,我这里得到的任务都必须优先考虑有营收回报的场景,这样套着枷锁去搞研究,那是永远搞不成的!”
Pony马皱了皱眉,没有说话。
“马总,我就直说了,现在按照企鹅的应用为导向,只做技术跟进,不去尝试前沿路线的押注,那永远做不出来DLF那种东西!”张潼诚恳的说道,“深度学习的曙光已经出现了,还按这个样子搞,那真的搞不出什么东西!”
Pony马出声安抚了:“张博士,你消消气,公司对这一块会重视的。”
总裁任宇希却又说话:“我认为还是需要看看谷歌、碳硅数据具体的资源布置,不然,陆奇他们嘴上说得好听,连临港自己的碳硅数据都不动,实在不像是值得押注的样子。”
张潼挪眼去看掌门人,没看到对方有什么表示,叹了口气,一句话想说没说出来,这都不如我在百度的时候……
他在百度研究院是担任副院长和大数据实验室主任,但说是负责深度学习基础技术的研发,实际上却要做技术在搜索、广告等业务的落地。
本来想着跳来企鹅能实打实的推进深度学习的研发,到了这边又变成雷声大雨点小。
与其这样……确实不如到DLF那边快活。
张潼闭口不言了,该说的都说了,自己只是一个小小的实验室主任,本身都不够参与总裁办会议的资格,还能怎么苦口婆心劝他们投入呢?
只是,话说回来,确实不见碳硅数据有太大的动作。
张潼默默的谅解了总裁的想法,也深刻意识到企鹅这里并不是符合自己追求的地方。
他在这场会议之后便把电话打给了本就存在联系的吴恩达,询问DLF内部到底是个怎么样的运作章程。
双方曾经在百度共事,彼此十分熟悉,说话也比较随意。
张潼电话打过去的时候就听到对面背景音比较嘈杂,本来还觉不是个通话的好时机,但吴恩达很快就到了安静的地方。
“嗨,我们这边能干什么,就是多尝试呗。”吴恩达面对老朋友的问题给了这么一个回应,又有点没好气的说道,“现在都想着把AGI作为目标了。”
张潼闻言,眼睛一亮:“AGI?你们还有什么大的突破?”
“没有啊,这是俞总提出来的。”吴恩达笑了一声,“可能是TD-1模型给了他信心吧,他说要把通用人工智能作为基金会的目标,啧,他比我们敢想。”
张潼感觉自己眼睛更放光了,声音却没有激动,反而追问另外一件事:“我听说DLF是要独立融资,怎么不放在碳硅数据那边?碳硅数据现在越来越赚钱了,肯定能提供更方便的支持啊。”
“俞总说那边的商业化容易妨碍我们的独立运作,就这次的TD-1,我看他都有点嫌弃我们过多考虑落地场景呢。”吴恩达自嘲道,“这帮他考虑怎么赚钱还帮出毛病了,哎,我特么的问他DLF的持续投入,他就说他靠炒股和做空养我们,哎,张潼,你也看到我们模型在NLP任务上的表现了,刚才几个人还在会议室里吵架呢。”
张潼情不自禁的说道:“我也想去吵……”
吴恩达意外:“啊?”
下一秒,他立即意识到面前的情况,笑着邀请道:“你来啊,基金会这边正在国内国外招人,准备大干一场,你要想研究自动驾驶,你可以去碳硅集团,你要想做做业务的落地优化,你可以去碳硅数据,你要想来搞新鲜玩意,你可以来DLF,俞总也说了,如果有人对手上的前沿研究腻了,想去做具体的业务落地,随时可以转到临港的公司。”
“包括余凯那边,他那个地平线公司也有硬件上的研究,也还不错。”
张潼思考了好一会,重重的说道:“我觉得俞总那种AGI的组织目标提法比较有意思。”
吴恩达立即说道:“行,你买票来,我去机场接你。”
张潼笑道:“你还来机场接我,哪有那么快?”
下一刻,他又补充道:“怎么也得等到周末,我先去瞧瞧。”