OpenAI 联合创始人John Schulman将加入竞争对手 Anthropic

John Schulman致力于完善 OpenAI 聊天机器人 ChatGPT 的模型。在两名安全负责人离职后,该公司表示Schulman将加入一个安全委员会。Schulman表示,OpenAI 高管一直致力于该领域。
新闻资讯 OpenAI
2024-08-08 17:40:17  |   作者:开源爱好者  |   来源:

OpenAI 联合创始人John Schulman将加入竞争对手 Anthropic

John Schulman致力于完善 OpenAI 聊天机器人 ChatGPT 的模型。在两名安全负责人离职后,该公司表示Schulman将加入一个安全委员会。Schulman表示,OpenAI 高管一直致力于该领域。
新闻资讯 OpenAI
2024-08-08 17:40:17
作者:开源爱好者
来源:

OpenAI 联合创始人John Schulman近日在 X 平台上发文称,他将离开这家微软支持的公司,加入人工智能初创公司 Anthropic,后者获得了亚马逊的投资。

这一举动发生在 OpenAI 解散超级对齐团队(superalignment)不到三个月之后,该团队专注于尝试确保人们能够控制在许多任务上超越人类能力的人工智能系统。

图片6.jpg

根据Schulman网站上的个人简介,他曾是 OpenAI 后期训练团队的联合负责人,负责完善 ChatGPT 聊天机器人的 AI 模型和第三方开发人员的编程接口。今年 6 月,OpenAI 表示,作为人工智能对齐科学主管的Schulman将加入一个安全委员会,为董事会提供建议。Schulman自 2016 年在加州大学伯克利分校获得计算机科学博士学位以来,一直在 OpenAI 工作。

“这一选择源于我深化对 AI 对齐的关注,并开启职业生涯新篇章的愿望,在那里我可以重新开始实践技术工作,”Schulman在社交媒体上发文称。

他表示,自己并非因为 OpenAI 对新工作缺乏支持而离职。

“相反,公司领导非常致力于在这一领域进行投资,”他说。

超级对齐团队的负责人Jan Leike和公司联合创始人Ilya Sutskever都在今年离职。Leike加入了 Anthropic,而Sutskever表示他正在帮助创办一家新公司 Safe Superintelligence Inc。

自 OpenAI 员工于 2021 年创立 Anthropic 以来,这两家位于旧金山的年轻企业一直在努力打造性能最强大的生成式人工智能模型,以生成类似人类表述样式的文本。亚马逊、谷歌和 Meta 也开发了大型语言模型。

“非常兴奋能再次一起工作!” Leike在回复Schulman的消息时写道。

OpenAI 的联合创始人兼首席执行官Sam Altman在自己的帖子中表示,Schulman的观点影响了公司的早期战略。

去年 11 月,董事会将Altman赶下台后,Schulman和其他人选择离职。员工们对这一决定提出抗议,导致Sutskever和另外两名董事会成员Tasha McCauley和Helen Toner辞职。Altman恢复了职位,OpenAI 又增加了新的董事会成员。

Toner在一档播客中表示,Altman向董事会提供了关于“公司确实有少数正式安全流程”的错误信息。

WilmerHale 律师事务所在一份独立审查报告中指出,董事会将Altman赶下台时并未关注产品安全性。

上周,Altman在 X 上表示,OpenAI“一直在与美国人工智能安全研究所合作,就一项协议展开工作,我们将为下一个基础模型提供早期访问权限,以便我们共同推动人工智能评估科学的发展。” Altman表示,OpenAI 仍然致力于将 20% 的计算资源用于安全计划。

同样在近日,OpenAI 的另一位联合创始人兼总裁Greg Brockman宣布,他将休假至今年年底。