算法效率比灵境低一倍,那就投入两倍芯片;训练速度不够快,那就扩大集群,或者延长训练时间;推理成本太高,也能通过新一代芯片和大规模采购慢慢降下来!
报告最后写道:“灵境科技的成功并非无法复制,它只是比竞争对手更早准备好了硬件!”
简而言之,浑水的意思就是“力大砖飞”!
这份报告刚刚发布,英伟达和几家存储公司的股价再次应声大涨。
华尔街很喜欢这种论调。
如果女娲的领先来自陈平对技术方向的判断,外面的投资机构很难从中赚钱。
投资者买不到陈平,也无法确定其他公司里有没有第二个陈平。
硬件就简单多了。
计算芯片有出货量,服务器有订单,数据中心也能算出大概需要多少钱。
只要投入足够多,人工智能的成功看上去就有了一条清楚的路径。
有人做了一张讽刺图,把女娲画成一台由几十万张计算卡堆起来的机器,陈平则站在机器顶端,手里举着一面写有“技术创新”的小旗子。
图片下面还配了一句话:“只要卡够多,谁都能当天才!”
原本就不喜欢灵境的人也看准机会跟着大部队冲锋。
他们认为女娲根本没有外界吹得那么神,只是灵境提前几年囤了大量高端计算卡,硬生生用钱堆出了效果。
其中最常见的一种说法,是谷歌如果拿到同等规模的硬件,Gemini一定会比女娲更强。
百度的支持者也认为,文心一言欠缺的主要是算力,只要后续补上计算资源,和女娲之间的差距很快就会缩小。
有人翻出灵境过去几年的采购记录,发现公司从2011年开始便持续买入高端计算卡。
女娲项目还没有公开时,灵境已经着手建设大型数据中心。
到了2012年,灵境又和英伟达、AMD签下长期采购合同,拿走了相当一部分新增产能。
许多科技公司后来想采购计算卡,交货时间却已经排到一年以后。
这些事原本被视为陈平眼光超前,如今却被另一批人拿来证明灵境只会堆硬件。
“灵境提前把卡买光,再说别人模型不行,这比赛公平吗?”
“谷歌要是早准备三年,女娲还能有这么大优势?”
“灵境的领先,至少有一半来自供应链!”
支持灵境的人很快听不下去了。
“灵境买卡的时候,谷歌和脸书怎么不抢?”
“平神提前几年拿真金白银下注,当时你们笑他浪费钱,现在看见女娲成功,又说不公平!”
“计算卡就摆在市场上,谁拦着其他公司买了?”
双方很快吵了起来,堪比粉圈大战。
反对灵境的人认定硬件才是女娲真正的护城河,支持者则觉得,把女娲的成功全归到计算卡上,就像说厨师做菜好吃全靠锅。
技术论坛里,一名参与过大型计算集群建设的工程师发了一篇长文。
他先承认硬件非常重要,没有足够的计算资源,再好的模型设计也无法完成训练。
可几十万张卡买回来以后,怎么让它们一起工作,本身就是一个极难的问题。
大规模训练期间,任何一台服务器出现故障,都可能拖慢整个任务。
节点之间的传输速度不够,芯片便会浪费大量时间等待数据。
存储读取跟不上,计算能力再强也发挥不出来。
模型还要被拆分到不同设备,训练期间怎么同步参数,如何控制误差,遇到故障后又怎么恢复,全都需要软件解决。
这名工程师在文章里写道:“一台发动机放在地上不会自己变成汽车,10万台服务器堆进机房,也不会自己训练出女娲!”
上述言论很快便火出圈了。
有人赞同他的分析,也有人坚持认为,只要投入的硬件足够多,软件上的差距总能被弥补。
一名灵境研究院的匿名工程师忍不住回了一句:“软件效率如果能提高十倍,为什么一定要多花十倍的钱?”
对方给出的回答也很直接:“因为其他公司拿不到灵境的软件!”
这句话说中了问题的关键。
女娲使用的训练框架、模型架构和集群调度系统都没有公开,外界能看到女娲的实际效果,却不知道灵境到底是怎么把模型训练出来的。
灵境发表过部分论文,也公布过机器视觉和行业模型的研究成果,但最核心的通用模型技术始终守得很严。
其他公司没办法照着女娲的技术路线走,只能尝试用更多硬件填补差距。
这也让“大力出奇迹”的说法多了几分市场。
……
国内一家科技论坛很快组织了一场线上辩论。
辩论的主题只有一句话:“更多、更强大的硬件能不能复制女娲1.0?”
支持方请来一名半导体行业分析师。
这名分析师认为,人工智能过去的发展已经证明,只要计算规模上升,很多长期没有进展的技术难题都会出现突破。
早年的语音识别和图像识别也曾经停滞多年,等计算卡性能提高,训练数据变多,识别准确率很快就上去了。
在他看来,女娲如今展示出来的代码、推理和文档处理能力,也和训练规模有很大关系。
灵境现在能够直接调度的高端计算卡数量,超过大多数人工智能公司的总和,其他公司的模型效果不如女娲,很可能只是因为训练量还不够。
分析师还举了个例子:
“一个学生每天做一万道题,另一个每天只做100道,两个人考试成绩有差距,能证明前者的学习方法更好吗?”
这个说法得到不少观众支持。
有人觉得人工智能行业一直把算法说得太玄,硬件数量反而是最实在的东西。
只要谷歌、百度等公司拿出和灵境相同的硬件规模,再比较谁的模型更强,才算真正公平。
反对方请来的是一名姑苏大学计算机学院教授。
他听完这个比喻,笑着问了一句:“如果每天做一万道题的人,反而用时更短呢?”
教授认为,硬件规模只是决定模型能力的因素之一,模型结构、训练方法和数据质量,同样会影响最终结果。
单纯依靠硬件堆积,成本很快会高到无法承受。
假设灵境完成一次训练,需要10万张计算卡运行三个月,竞争对手的软件效率只有一半,那就要投入20万张卡,或者把训练时间延长一倍。
训练完成还只是第一步,模型每天给用户回答问题,同样会持续消耗算力。
女娲的fast模型能够永久免费,很大程度上说明灵境已经把推理成本压到了较低水平。
其他公司就算堆出能力相近的模型,使用成本如果高出几倍,也很难和女娲正面竞争。
教授也举了一个更生活化的例子:
“两辆车都能跑到每小时200公里,一辆百公里耗油十升,另一辆要烧100升,你们觉得这两辆车的技术一样吗?”
直播间里的风向很快发生变化。
许多观众这才意识到,模型训练出来之后,还得考虑几亿用户日常使用的成本。
谷歌有钱,确实可以在前期补贴Gemini,可用户规模达到几亿以后,任何公司也不可能永远替用户承担高额电费和硬件损耗。
支持硬件路线的分析师随即指出,芯片技术本身也在进步。
新一代推理芯片会降低耗电量,存储和网络成本也会继续下降,今天看起来非常昂贵的算力,几年后可能变得便宜许多。
软件效率稍微落后,并不会永远构成致命问题。
教授并没有否认这一点。
他只提醒了一句:“硬件会进步,灵境的软件难道会一直停在原地吗?”
这句话过后,双方又争了起来。
支持Gemini的人认为谷歌拥有搜索数据、自研芯片和全球数据中心,真正集中资源以后,很快就能超过灵境。
女娲用户则认为,Gemini和文心一言现在都只有演示视频,连产品都没发布,讨论谁胜谁负没有意义。
主持人几次试图把话题拉回来,最后也没能得出结论。
这场辩论的在线观看人数达到了夸张的600万,直接让不少圈外人懵逼了。
搞技术的,也能这么火吗?观众真的看得懂那些深奥的公式、算法和代码吗?
这场直播结束后,双方各自截取对自己有利的片段,带回社交平台继续争论。
灵境科技始终没有回应,女娲的官方账号只更新服务恢复情况。
哪座节点完成维护,哪些地区缩短排队时间,什么时候恢复图片功能,公告里都写得很清楚。
至于“女娲全靠囤卡”之类的说法,灵境连一个字都没提。
有人觉得灵境不敢正面回答。
支持者却认为,核心技术本来就属于商业机密,灵境没有义务公开给竞争对手检查。
外面吵得再厉害,也没有影响灵境研究院的工作。
女娲2.0的训练因为调走算力而有所延迟,季铭带着团队重新调整了计划,原本借给公测服务的计算资源开始分批收回。
新采购的设备还没到,工程团队只能继续优化1.0的推理效率,他们压缩了部分重复计算,又把一些简单问题交给轻量模型处理。
经过几天调整,相同硬件能够承载的用户数量提高了20%左右。
4月10号以后,国内用户在普通时段已经能直接使用女娲。
北美和欧洲依旧需要排队,好在没有再次出现大面积故障。
新用户注册仍然关闭。
每天都有几百万人守着灵境官网,等着注册通道重新开放。
有人甚至开始倒卖女娲账号!
普通免费账号被炒到几十美元,注册时间早、使用记录少的账号价格更高!
灵境发现后,立刻限制了异常登录和频繁更换地区的账号。
官方也反复提醒,账号里面涉及聊天记录和个人资料,千万不要私下交易!
可越是限制,想买的人越多。
……
4月11号,陈平在灵境总部接受了一家国内财经媒体的简短采访。
采访原本只谈数据中心扩建,临近结束时,记者还是问起了网上的争论:
“陈总,现在有机构认为,只要拿到和灵境同等规模的硬件,其他公司也能复制女娲的成功,您怎么看?”
陈平一言不发。