在近期字节跳动内部举行的一场重要会议上，创始人张一鸣针对公司大模型研发方向发表了明确观点。他强调，在模型研发过程中，必须秉持长期主义理念，注重延迟满足感，而非单纯追求通过利用外部资源来获取短期的榜单排名优势。
今年以来，国内开源大模型领域呈现出加速迭代的态势，众多优秀开源模型不断涌现。这一发展形势使得字节跳动在市场竞争中面临着更为严峻的外部压力。每当有新的、能力突出的开源模型发布，字节跳动内部围绕模型蒸馏这一话题的讨论便会热烈起来。
据了解，张一鸣平时较少在字节跳动Seed团队的会议上发言，但此次他却打破常规，清晰地向团队传达了公司的战略导向。他明确指出，字节跳动应当具备为长期目标适当牺牲短期收益的决心和勇气。目前，字节跳动内部已经出台严格规定，严禁员工利用外部开源模型进行蒸馏操作，并且通过API检测等一系列手段来强化这一限制措施的执行力度。
模型蒸馏，简单来说，就是借助能力更强的模型输出结果来训练另一个模型。这种方式能够让被训练的模型以相对较低的成本，在较短时间内实现能力的快速提升。然而，张一鸣有着更为长远的考量。他认为，过度依赖外部模型蒸馏虽然在短期内可能会带来一定的效果，但从长远来看，很可能会干扰团队对底层技术路径的深入探索，不利于公司在技术领域实现具有深远意义的长期突破。
