书海阁
书架 邀请 登录

第一百三十四章 远超预期

作者:路大头字数:3千字更新时间:2026-09-27 14:23:24
第一百三十四章 远超预期

韩路一和苏念念从会议室出来,一起来到了韩路一的办公室。

两人正准备就刚才的视频会议谈谈应对策略。

这时,门外传来了急促的敲门声。

“韩总,在吗?”

是赵文渊的声音。

韩路一和苏念念对视了一眼。

韩路一走过去把门打开,赵文渊手里抱着笔记本电脑,一脸兴奋。

“韩总!真神了!”他一边说一边走进来,才突然注意到苏念念也在房间里,一愣。

随即他的表情放松下来,把笔记本电脑放在办公桌上。

“正好,苏总你也在,一起看看。”赵文渊说道,“第一轮训练的结果出来了。”

他翻开屏幕,手指在触控板上快速滑动,调出一个表格。

“我先给你们看看基础数据。”赵文渊切到第一页,“我先打个预防针啊,7B的开源基座微调,参数量只有GPT的不到二十分之一。像知识问答、逻辑推理、数学计算这些常规指标在同量级模型里也只能算是中游偏上,更没办法跟那些几千亿的大家伙比了。”

赵文渊看了韩路一一眼,期待着他的反应。

“但是注意,重点在下一页。”

一边说,赵文渊一边把表格翻到第二页。

屏幕上是一张柱状图,横轴排列着十几个模型的名字,纵轴是分数。

韩路一认出了几个:GPT、Mercury、Gemini。

这些名字旁边的柱子高度都差不多,分数全都集中在71到78之间。

只有最右边有一根单独的浅蓝色柱子,明显比其他的都高出一截。

这个模型的名字是PX-7B-post_trained-v0.1。

而它顶端的数字是83.7。

赵文渊的声音声音里透露出压抑不住的兴奋:“这是单看意图理解维度的评测结果,评测集用的是IFEval标准框架再加上我自己设计的深层意图还原测试,一共一千二百道题,总计覆盖了十六个不同的场景。”

然后他拿手指点了点那根浅蓝色的柱子。

“看见了吗?83.7。”

韩路一当然看见了,他还关注了第二名和第三名。

GPT是78.2。

Gemini是76.9。

韩路一还特意看了一下水星的分数——就是刚才瑞恩展示的那个,这一项得分是74.8。

赵文渊问道:“韩总,猜猜哪个是我——不,是咱们更训练出来的模型?”

韩路一露出一个无奈的表情。

你都整这么明显了,我还能猜错吗?

然后他指了指水星,说道:“是不是这个?”

苏念念在旁边白了韩路一一眼。

这两个人,一个敢问,一个敢猜,她怎么突然对这个还没成立的新公司没那么有信心了呢。

赵文渊知道韩路一是故意的,嘿嘿一笑,开始往后翻,讲解起这个意图理解的测试来。

韩路一很快就听懂了。

意图理解,简单来说,就是模型能不能读懂用户真正想要什么。

用户打字输入的内容是表面,表面之下是处境、是约束、是没说出口的真实需求。

绝大多数模型在做的事情是理解字面意思,然后给出一个正确但泛泛的回答。

但是PX-7B能做到的,却是从同样的输入中读出用户真正想要的东西。

这是一个极其困难的任务,参数量大几十倍的模型都未必能够做得好,说到底,模型只能学到他的训练材料里有的东西,而大部分模型所能拿到的原始数据和标注数据,都并不能知道用户的真实意图。

只有韩路一提供的标注数据才能做到这一点。

这才是PX-7B这么强的原因。

讲解完,赵文渊郑重地说道:“韩总,我做这行这么多年了,从来没见过一个7B的东西能在任何单项维度上打赢GPT-4,从来没有。”

“而且这才只是第一轮,只跑了几个epoch,超参数都没有调到最优。在这个基础上再调试几轮,后面还有上升的空间。”

苏念念一直没说话,这时候才轻轻开口说了一句:“意图理解……这不就是开物一直想做的事吗?”

韩路一点了点头,心里也有点儿激动。

视哥,给力!

沉思了一下,韩路一问了一个问题。

“如果有十万条这种精度的数据呢?”

赵文渊仰起头,对着天花板想了一会儿。

“十万条这种精度的标注,”他慢慢说,“理论上足够在70B甚至更大的基座上把意图理解能力拉到当前行业天花板,之上。”

“这可不只是提升几个百分点的事,你可以想象从GPT-3到GPT-4那种级别的换代。”

“而且到时候就不只是意图理解一个维度了,意图理解是模型的基础能力,模型一旦真正学会了理解人话,所有下游任务的表现都会跟着变强的,回答会更精准,代码会更贴合需求,内容会更有针对性,用户满意度也能提升——”

赵文渊停住了,他意识到自己说得太远了。

“这只是理论上的。”他往回收了一步,“实际操作的时候还要看数据分布、训练稳定性、泛化表现等等,不能简单地线性推理,但大方向上肯定是没问题。”

赵文渊接着说:“这个效果,这个水平的标注数据,拿到任何一家大模型公司去做对齐训练,都可以让意图理解直接上一个档次。”

“韩总,我融资经验不多,但我可以肯定地告诉你,我们不会缺钱了。”

韩路一和苏念念对视了一眼,都为这个好消息感到振奋,刚刚Nexus AI带来的压力也被一扫而空。

“把参数调完,做一个最优的原型出来,你大概还要多少时间?”韩路一问。

“一周吧。”说完,赵文渊面露难色,“但是,要占用工作时间。”

这就是韩路一和赵文渊之前讨论的灰色地带了,在工作时间使用工作资源做出的成果,源码科技可以主张所有权,如果弘远真的和韩路一闹僵了,这就是个隐患。

想了一会儿,赵文渊说:“我先请无薪假吧,一周,先把成果做出来。”

韩路一点了点头:“不用过沈丛云,我来批。”

赵文渊准备起身告辞,韩路一叫住了他,转头看了一眼苏念念,才说道:“既然训练结果不错,趁你们两个都在,我说个事。”

两人一起看向韩路一。

“融资的事,我仔细想过了。既然我们最缺的只是算力,也没必要从投资人那绕一大圈,直接找有算力的人用算力入股。”

“现在国内的几个大玩家,这方面最有实力的还是鼎盛。源码过去和鼎盛有点不愉快,但我希望你们别有芥蒂。”

韩路一说完,看了两人一眼,又补充道:“当然,这是我的初步想法,你们有什么建议都可以提。”

苏念念先表态:“我没什么问题,在商言商,只要能以最快的速度把模型做出来,和谁合作无所谓,而且——”

她看了赵文渊一眼:“你其实不用问我的看法。不管和谁合作,保持住控制权才是最重要的。”

听完韩路一的问题,赵文渊沉默得更久一些。良久,他才开口道:“非得在国内找吗?我在谷歌——”

韩路一打断他:“文渊,大模型的训练,必须得在国内!”

赵文渊抬起头看向他,发现他也正盯着自己,两人对视了一会儿,赵文渊点点头:“……我明白了,我没问题。”

“既然这样,那后面的就交给我来谈吧。”韩路一说道。

韩路一送两人走出办公室后,拿出了手机,找到了程远的微信。

当时两人见面加上微信之后,程远发过来一条问候:“韩总,我是鼎盛程远。今天一见如故。以后常联系,有合作意向的话第一时间告诉我。”

韩路一一直没有回复。

隔了半个多月,他要主动发消息了。

尴尬吗?

不尴尬。

做生意,哪有什么尴尬的?

无非是利益而已。

“程总,不好意思,刚看到。我这边有个新项目的想法,有时间聊一聊?”

发送。

此章为VIP章节,需要订阅后才能继续阅读

  • 价格:0屋币(1元=100屋币)
  • 购买
设置
作品详情 加书架
章节进度
评论 (0条)
评论加载中...
首富从AI浪潮开始封面 正序
目录加载中...
加书架
上一章 目录 下一章

设置