最近,一条消息在人工智能圈内引发广泛讨论。17岁的天才少年陈广宇在社交媒体上宣布他将离开月之暗面(Kimi)公司。几乎与此同时,著名的研究员肖尔托·道格拉斯也在评论区对他表示了浓厚的兴趣,甚至传出陈广宇在宣布离职后收到了五份薪资超过100万美元(约700万元人民币)的工作邀请。那么,这位年仅17岁的少年究竟有何成就?
陈广宇,2006年出生于深圳,曾在国际学校学习,刚刚完成高中学业。自小,他便尝试过诸多活动:从注册Shopify店铺、创建青少年开源社区到参与机器人项目,甚至梦想成为职业滑雪选手。2024年4月,正值高一的他做出了一个看似冒险的决定——暂停所有令他厌倦的事务。这一选择对许多国际学校的学生而言,意味着放弃那些为大学申请所需的课外活动和学习成绩。他开始沉浸于他一直渴望了解的人工智能安全领域,这次阅读激发了他对物理、宇宙以及史蒂夫·乔布斯的深刻兴趣。“在那段时间,我学习的唯一驱动力是自己的好奇,而不是为了迎合外界的期望。”他在个人博客中这样撰文。
2025年2月,成为他人生转折点的一刻。在一次面向中学生的黑客松中,他展示了名为ThirdArm的项目,这一构想源于对人类增强能力的浓厚兴趣,提出了“人类第三只机械辅助手”的创意。此时,他结识了董科含,一位前YC中国和奇绩创坛的创始团队成员。董科含鼓励陈广宇将注意力投向更前沿的技术,而不是再局限于机械辅助手的探索。这条建议为陈广宇的未来发展指明了方向。他开始利用AI阅读最新研究论文,追踪GitHub上的开源项目,从而逐步形成了对机器学习的深刻理解。 球友会体育
陈广宇在社交平台上的技术分享引起了一家硅谷科技初创公司Tilde Research的CEO的注意,最终他获得了这家公司发来的录取通知。媒体报道称,董科含曾提醒他要发挥领导力,抱持CEO的思维模式。自此,陈广宇的参与工作逐渐超越了技术问题,扩展到运营管理、融资、投资者沟通以及长期战略等复杂话题。他结束了硅谷的实习回国后,继续将目光放在大模型的研究上。他仅向DeepSeek和月之暗面(Kimi)投递了两份简历。最终,因其技术能力,年方16岁的陈广宇被Kimi的顶尖学者杜雨伦录取,尽管他尚未达到法定工作年龄,依然以实习生的身份加入团队。
这一过程让陈广宇在业界逐渐崭露头角。如今,尽管他赋予“不要造神”的声明,17岁的他已经在业界获得了令人瞩目的成就。
那么,陈广宇的研究具体成就如何?在硅谷期间,他深度参与了MoMoE项目,并在加入月之暗面后,参与了Kimi Delta Attention(KDA)计算内核的加速。尤为突出的是,他与团队合作发布了一篇名为《Attention Residuals》的论文,埃隆·马斯克对此转发并称赞这项研究为“令人印象深刻”。这篇论文的共同第一作者包括苏剑林、陈广宇及张宇。论文的核心贡献在于挑战自2017年Transformer架构提出以来被广泛使用的残差连接设计。 球友会体育
在最初的实验中,团队已提出一种简单的优化版本,结果显著优于传统设计。随后,陈广宇和张宇以更大规模的模型进行验证,确立了论文中的关键设计——Block AttnRes(分块注意力残差)。这一设计的创新之处在于,它在保持“关注历史”的能力的同时,大幅降低了模型的计算成本。通过将模型层分组后组内逐层累加,而在组间仅通过摘要进行信息处理,从而有效减少了信息稀释和内存占用。
这种Block AttnRes方法显著提高了训练效率,减少了25%的时间成本,推理延迟的增加则不到2%。这项创新不仅展示了陈广宇的技术能力,也为他赢得了业界的认可与赞誉。