晚上八点四十五分,T厂南山总部22层。
林晨提交完今天最后一个代码合并请求,活动了一下僵硬的肩膀,下意识地看了一眼四周。
开放工区里依然灯火通明。
老赵的工位上,三块屏幕的光映在他专注的脸上,保温杯里的茶早就凉了。许悦盘着腿,耳机线垂在肩膀一侧,手指在键盘上飞快敲击,眉头微蹙,显然在调试什么棘手的问题。远处有几个不认识的同事,端着笔记本坐在讨论区的沙发上,低声争论着什么,白板上画满了框图和箭头。
林晨站起来去茶水间接水,路过走廊时,透过会议室的玻璃墙,看到王皓正在和两个不认识的同事开视频会议,屏幕上显示着一个分布式架构图,各种标注和颜色块让画面看起来像一幅抽象画。
这就是T厂的加班文化。
不是强制要求,不是打卡统计,而是一种自发的、几乎无声的默认规则——如果你手上的事情还没做完,或者你想把它做得更好一点,你就会留下来。周围的人都在,灯都亮着,键盘声此起彼伏,你离开的念头自然就被压下去了。
林晨端着水回到工位,犹豫了几秒。今天的任务已经完成了,代码审查也通过了,明天上午的站会资料也准备好了。按理说可以走了。
但他的视线落在笔记本上一行还没来得及深入研究的技术笔记上——关于知识蒸馏在推荐系统中的应用,他只看了一半。
坐回去,再待一会儿吧。
他打开论文,逐字逐句地读起来。这篇文章来自Google Research,讲的是如何将大型推荐模型的推理成本降低一个数量级,同时保持效果损失在可接受范围内。核心思路和他在笔记本上画的草图高度相似:用大模型做教师,训练轻量化的学生模型上线服务。
读到一半,他开始在本子上画新的草图。T厂的推荐系统和他自己的量化系统,虽然业务场景不同,但都面临模型效果和推理成本之间的权衡这个根本性问题。大模型效果好但成本高,小模型成本低但效果打折。蒸馏,就是在两者之间找到甜点。
他越想越投入,不知不觉又过了一个小时。等他从论文里抬起头,九点四十了。
工区里依然有将近一半的工位亮着。老赵还在,换了个姿势,椅子往后仰着,双手枕在脑后,盯着天花板发呆——这通常是他在思考深层问题时的状态。许悦已经走了,工位上只留下一袋没吃完的坚果和一台合上的笔记本电脑。