沈丛云放下手机,把目光放在了电脑屏幕上。
浏览器打开着,上面是一个人的LinkedIn主页。
Songran Jiang,连个照片也没有,上面的工作履历也非常简单。
2011年到2020年在谷歌工作,在TPU团队担任Staff Engineer(L6),对应鼎盛的P8,高级专家。
2020年跳槽到一个芯片创业公司做Head of Infrastructure(基础设施负责人),一直到现在。只有一个职位,具体的工作内容完全空白,种种迹象表明,这个人并没有在积极地找工作,所以对自己的个人履历也没有进行更新。
关掉浏览器之后,沈丛云又打开了桌面上的一个文件夹,里面放着的是沈丛云从其他渠道搜集到的关于江松然的资料。
这个人在谷歌的时候一直在TPU团队,从软件到硬件都有涉猎,带过几个大项目,升职速度堪称坐火箭。
跳槽后,他是那家创业公司的一号员工,从零到一把一套千卡级别的异构显卡训练集群做了出来,种活儿全球做出来过的人可能都不超过两位数,他就是其中之一。
简单来说,这是一个极度低调的圈内大佬。在AI基础设施的领域里成就斐然,但是出了圈子就不太知名的那种。
这样的人物离职回国,的确牵动了整个AI圈老板和猎头的心,不差他沈丛云一个。别说鼎盛了,就他所知,鹏城那边也有人专门飞过来,就为了劝江松然加盟。
这样的人才,韩路一一定不想错过,可是沈丛云这边已经黔驴技穷了。
电话打不进去,微信加不上,邮件不回,你还有什么办法,总不能去他家堵他吧,问题是你也得知道他家在哪啊?
沈丛云把这些资料打包好,一起发给了韩路一。
很快,韩路一回复了:“来十三楼一趟。”
沈丛云赶紧在那条信息上点了个大拇指,收起笔记本电脑出了办公室。
到了十三楼,韩路一和赵文渊正并排坐在电脑前面,屏幕上正开着沈丛云刚发过去的资料。
韩路一先挥手示意沈丛云坐在面前的空椅子上,然后开门见山地问道:“怎么了,不太顺利?”
“韩总,电话不接,邮件不回,连联系都联系不上。”沈丛云的声音透着一些尴尬,这样的结果似乎显出他办事能力不足。
韩路一转头问赵文渊:“文渊,你认识吗?”
赵文渊摇摇头,他入职谷歌的时候江松然已经离职了。两人工作的领域也不太一样,一个偏理论研究,一个偏工程实践。虽然都在硅谷,两人可能有共同的朋友,但没有直接的交集。
突然他想起什么,拿出微信搜了一下江松然的名字。
赵文渊有几个谷歌华人微信群,什么吃喝玩乐群、徒步群、摘樱桃群,都是他在谷歌那几年陆陆续续加的,也许江松然也在里面。
这一搜还真搜出来了,是一个叫【海城人在谷歌】的群,从赵文渊加进去里面就没人说话。
赵文渊顺着点进江松然的名片,又点开他的朋友圈,只展示最近六个月,里面只有一条,是一张在医院病房里的照片,只拍了病床,没拍人,底下配了一句话:“你永远不知道明天和意外哪个先来。”
韩路一在旁边看了全程,没说话。
倒是沈丛云开口了:“韩总,江松然的微信号我这也查到了,但是他没接受我的好友申请。”
赵文渊问:“要不我从群里加他?他可能会通过。”
韩路一没说好也没说不好,拿过赵文渊的手机,又看了那条朋友圈。
……
上午十点刚过。
海城某三甲医院神经外科,普通病房。
这里很安静。
江松然坐在病床旁边的折叠椅上,膝上放着笔记本电脑。
他留着短发,瘦削的脸上没有表情,静静地看着屏幕,双眼里有密密麻麻的血丝。
旁边的床上躺着一位老人,和江松然的容貌有五六分相像,只是更瘦、更苍老。老人的左手插着留置针,呼吸很轻,床头的监控仪器规律地间隔发出“嘀”的一声,像是在提醒病房里的人时间的流逝。
父亲脑梗发作那天,江松然正在硅谷的办公室里加班。
突然接到了母亲的越洋电话,他已经回忆不起自己当时的想法,或者干了什么。
整个人好像进入了一种自动导航模式。
江松然买了能买到的最早的机票回国,只带了一个小箱子装了几件衣服,一台私人电脑。
他当时不知道自己还能不能见到父亲最后一面。
十几个小时的奔波之后,等到在ICU的玻璃门外看到父亲的那一刻,他的眼泪夺眶而出。
万幸,抢救回来了。
在ICU待了十几天,脱离了危险期之后,父亲转到了普通病房,还是睡觉的时间多,清醒的时间少。
医生的建议是先静养,恢复的好的话再观察一个月就可以出院了。
和医生聊完,江松然做出了一个决定,没和任何人商量。
他不回美国了。
决定之后,他和公司的CEO打了一个视频电话,说明了他的想法。
CEO在视频那边沉默了好久,最后连挽留的话都没有说,只是祝福他的父亲赶紧好起来,如果将来他想回来随时欢迎。
江松然注意到,这个当初和他一起在车库创业,合作了好几年的白人老头红了眼眶。
然后他又拜托在美国的朋友打理一下房子,留意一下卖房的经纪。
从接到母亲电话的那一刻起,江松然的生活好像被从中间分成了两段。
前半段是他疯狂努力证明自己,想让父母骄傲的人生。
后半段是什么,他还不知道。
江松然正在一边等着母亲来和他换班,一边无聊地刷着各种信息流,目光在其中一篇上停留了一下。
《算力国产化,未来五年最大的变量》。
看到这个标题江松然久违地在心里笑了一下。
这些媒体估计都不知道自己在说什么。
算力国产化,国家级战略资源,这话当然谁都会说。
但是对于像他这样专门干这一行的人来说,这话就有点儿脱离实际了。
无他,门槛太高了。
这就像是在说我们应该解决气候问题一样,是句正确的废话。具体要做什么?怎么做?花多少钱?周期多长?代价是什么?没人说得出来。
关掉新闻,江松然又在电脑上点开了一个新的页面,arXiv。
这是一个免费发布论文的网站,尤其是在AI和计算机系统这个圈子,几乎所有的新研究都会先往上面发布。不用等期刊评审,不用等会议接收,写完了发上去,当天全世界就都能读到。
圈里人管这叫“挂上去”。
每天早晨刷一遍arXiv,看看自己关注的几个分类底下有没有新东西,是这个圈子里研究人员大部分人的基本习惯。
江松然这个习惯保留了十几年,从上学的时候到谷歌再到创业公司。
回国陪床这两个多月,虽然已经没有工作要做,但每天刷刷arXiv的习惯还保留着。
江松然的目光从上到下快速扫过,一篇新发布的论文题目吸引了他的注意力。
《On Adapting Memory-Efficient Attention to Non-CUDA Heterogeneous Accelerators: A Single-Operator Case Study》(非CUDA硬件上的注意力算子适配:一个单算子的案例研究)
作者只有一个名字,Wenyuan Zhao。
江松然在脑子里把这个名字过了一遍,没什么印象,从他的名字点进去,其他的论文都是和训练架构理论相关的,这篇论文是第一篇和硬件领域有相关的论文。
江松然心中一动,现在做非CUDA的适配这么热门了?其他领域的研究者都跨界来研究?还真是天下苦英伟达久矣。
他又退回来,看了看团队的名字,Source Intelligence AI,是个没听过的中国公司。
江松然又有一种复杂的感觉,这也是在做算力国产化,里面到底有多少真东西?又有多少是噱头?
最终,江松然还是点开看了起来。
打动他最重要的一个原因是,这篇论文只有一个作者。
在工业界做过科研的他知道,公司发论文,很少会出现单作者的情况,不是说你一个人做不了研究,但是既然公司都赞助你研究了,相关方总得挂个名吧?
单作者的情况就很少见,要么是真就没有团队,要么是公司不在乎,只给主要的研究者署名。
但无论是哪种情况,这篇论文都值得看一看。
PDF加载出来之后,江松然先去看摘要。
「本文报告了一款国产的非CUDA加速器上内存高效注意力机制的端到端实现:在单节点8卡配置下,吞吐达到对应cuDNN参考实现的83%,数值误差在2.3e-6以内。」
看完摘要,江松然现在内心嗤了一声。
这数据,注水了吧。
既然都打开了,他还是耐着性子往下看去。
出乎意料的,论文的结构清晰,数据详实,用词严谨,甚至在实现那一节,提出了具体的优化方法和一些代码片段,如果有心的话,复现起来应该很容易。
但最让江松然受触动,还是在局限性的那一节,作者诚恳地写道:“本工作只完成了单算子(SDPA)的实验性适配工作,没有涉及LayerNorm、Softmax以及各类Optimizer等数十个其他算子;没有涉及多卡间通信库;也没有涉及训练场景下的反向传播与混合精度优化,所以不能够成一套可用的训练栈。”
江松然叹了口气,这个作者一句话就把他们这些研究者的困境写透了。
这种吃力不讨好的事情,国内竟然真的有人做,是,你可以一个一个研究,研究出一个,还能发一篇论文。
但是这一整套生态里,只要有一个关键算子还没做完,就真没什么用。
这种活儿江松然熟悉得很,谷歌TPU团队的前两年就是这么熬出来的。
只不过谷歌当年有几百个工程师,这个叫Source Intelligence的团队,有多大的规模?又有多少资源往里投?
江松然在心里默算了一下,从论文里提到内容到从头做出一套国产化的训练生态,今天到底还差了什么。
剩下的几十上百个算子、多卡通信库、分布式训练框架、编译器、容错和检查点,这么大的量,远远不是一个公司能够做得出来的。
如果国内真能有几百个团队,都像这一个一样,沉下心来安静地做这种没人鼓掌的事,那国产化也未必没有可能。
可惜,没有几百个这样的团队。
正想着,母亲从外面进来了,一进来就开始唠叨。
“松然,累坏了吧,快回去睡会,你在医院陪床的时候也得注意休息,别你爸还没醒过来,自己就先病倒了……”
江松然也确实是累坏了。
他和母亲交代了几句,稍微收拾了一下,拿上电脑,走出了病房。
一路走到住院部一楼,他看到一个瘦高帅气的年轻人站在大门的位置,背着一个双肩包,好像在找人。
江松然正看着,正好那个年轻人也看了过来,好像看到了他,冲他笑着点了下头,向他走来。
那人的眼神亮的惊人。
江松然不确定他是不是冲着自己来的,也回应了一个点头。