AI大地震！openAI副总裁北大校友lilian离职！

AI大地震！openAI副总裁北大校友lilian离职！

　　Lilian Weng 的离职消息在科技界引起了广泛关注。她在 OpenAI 工作了近七年，期间参与了众多重要项目，为公司的发展做出了卓越贡献。

　　推文发布后，OpenAI 内外的一些知名人士为其送上了祝福，包括著名研究科学家 Noam Brown、OpenAI 首席信息安全官 Dane Stuckey、思维链提出者 Jason Wei 等等。

　　Weng 本科毕业于北京大学信息系统与计算机科学专业，后在印第安纳大学布鲁明顿分校获得博士学位。她曾在 Facebook、Dropbox 从事软件工程和数据科学方面的工作，2018 年加入 OpenAI 后，参与了 GPT-4 项目的预训练、强化学习 & 对齐、模型安全等方面的工作。

　　在 OpenAI 期间，Weng 建立并领导了应用人工智能研究团队，推出了微调 API、嵌入 API 和审核端点的初始版本，为应用安全工作奠定了基础。GPT-4 发布后，她又接受新挑战，重新考虑 OpenAI 安全系统的愿景，并组建了拥有超过 80 位出色科学家、工程师、产品经理和政策专家的安全系统团队。

　　她为团队在 o1-preview 模型方面取得的成就感到特别自豪，该模型被认为是 OpenAI 迄今为止最安全的模型之一，在保持实用性的同时，表现出对越狱攻击的卓越抵抗力。Weng 的工作为行业树立了新的标准，开发的具有多模态能力的审核模型免费分享给公众，为更多安全工作流提供了支持。

　　尽管 OpenAI 安全团队规模可观，但随着 Weng 的离职，网友们对 OpenAI 是否还会专心搞模型安全产生了质疑。目前，OpenAI 的公司高管和安全研究人员正在进行交接，以接替 Weng 的职位。而 Weng 表示会继续更新博客，也可能有更多时间编程，开启新的征程。

　　2017 年，Lilian Weng 怀揣着对 OpenAI 使命的着迷加入了这个充满创新与挑战的团队。起初，她投身于全栈机器人挑战，带领团队花费整整两年时间，成功教会单只机械手解开魔方。这一成就不仅展现了她在深度强化学习算法、感知和固件等领域的深厚造诣，更是团队协作和不懈努力的结晶。

　　当 OpenAI 进入 GPT 范式，Weng 又敏锐地察觉到将最佳 AI 模型部署到现实世界的机遇。她建立了第一个 “应用研究团队”，推出了微调 API、嵌入 API 和审核端点的初始版本。这些举措为应用安全工作奠定了坚实基础，为许多早期 API 客户提供了创新解决方案，推动了 OpenAI 在应用领域的拓展。

　　在 Lilian Weng 的领导下，安全系统团队取得了令人瞩目的成果。其中，o1-preview 模型的推出堪称里程碑式的成就。该模型被认为是 OpenAI 迄今为止最安全的模型，在保持实用性的同时，对 “越狱” 攻击表现出卓越的抵抗力。

　　安全系统团队通过严格而创新的评估方法，与准备框架保持一致，为每个前沿模型进行了全面的安全测试和红队测试。他们对透明度的承诺体现在详细的模型系统卡中，开发了业界领先的具有多模态能力的审核模型，并免费与公众分享。

　　团队为安全数据日志记录、指标、仪表板、主动学习管道、分类器部署、推理时过滤和新型快速响应系统奠定了工程基础。这些成果树立了行业安全标准，为人工智能模型的安全发展提供了宝贵的经验和范例。

　　Lilian Weng 的突然离职引发了众多猜测。一方面，她在离职信中明确表示，在 OpenAI 工作了七年之后，感觉是时候重新出发，探索新的领域了。这表明她可能渴望在职业生涯中迎接新的挑战，拓展自己的知识和技能领域。

　　从她的职业经历来看，Weng 在 OpenAI 参与了众多重要项目，取得了卓越的成就。然而，随着时间的推移，她可能对新的技术方向或研究领域产生了浓厚的兴趣。例如，人工智能领域的快速发展不断涌现出新的研究课题和应用场景，她或许希望在这些新的领域中发挥自己的才能。

　　另一方面，OpenAI 安全团队受重视程度的变化也可能是她离职的原因之一。近几个月来，OpenAI 俨然有了一种 AI 界 “黄埔军校” 的味道，众多高管纷纷离职。随着一些关键人物的离开，以及超级对齐团队的解散，在 Sam Altman 眼中，OpenAI 的安全团队似乎越来越不重要了。

　　尽管 AI 安全团队规模可观，据称有超过 80 名相关的研究人员，但网友们对 OpenAI 是否还会专心搞模型安全产生了质疑。在这种情况下，Weng 可能对 OpenAI 未来在安全领域的投入和发展前景感到担忧，从而决定离开，寻找一个更加重视安全研究的平台或机会。

　　此外，还有一些外部因素可能影响了她的离职决定。例如，行业竞争的加剧、其他公司的高薪诱惑等。在人工智能领域，各大科技公司都在争夺优秀的人才，Weng 作为一位经验丰富的科学家和领导者，无疑是众多公司追逐的对象。

　　总之，Lilian Weng 的离职原因可能是多方面的。无论是为了探索新领域，还是对 OpenAI 安全团队受重视程度的变化感到担忧，她的离开都给 OpenAI 带来了一定的损失。同时，这也提醒我们，在人工智能快速发展的今天，如何留住优秀的人才，保持团队的稳定性，是每个科技公司都需要面对的重要问题。王晶华说科技：追踪企业新动向，人工智能新趋势，技术产业新变革，科技行业新突破。每天原创不易，希望大家看完文章结尾给我们点一个【赞】+【在看】，你的支持就是我每天坚持创作的动力！（广告合作请加微信wbh12wbh）