人事难搞!4年计划1年就拆伙 OpenAI解散超对齐团队

来源:钜亨网 #OpenAI#
1.4w

知情人士周五 (17 日) 透露,在原定 4 年期的“超对齐计划 (Superalignment)”两位关键团队领导人离职后,OpenAI 解散了这个专注于人工智能长期风险的团队,该团队组建仅一年,部分成员将被重新分配至公司内其他团队,其余则已全数离职。

OpenAI 公司证实,该公司不再将所谓的“超对齐”团队作为一个独立的实体,而是将该团队更深入地整合到其研究工作中,以帮助公司实现其安全目标。

去年 7 月 OpenAI 宣布成立“超对齐团队”,其策略是“以 AI 防堵 AI”,打造一个拥有人类智慧水准的自动对齐 AI,然后就能够透过大量的算力进行自动对齐,确保 AI 与人类的意图与利益是齐平,以免遭 AI 取代。

该团队由 OpenAI 的共同创办人兼首席科学家 Ilya Sutskever,以及本就负责 AI 对齐的机器学习专家 Jan Leike 两人领军,但几天前这两位领导人宣布离职。

上个月,超对齐团队两名研究人员因泄漏公司机密而被解雇,另一名成员也在 2 月离开。 到了本周二,Ilya 在社群平台 X 上宣布,他将在近十年后离开公司,相信在执行长 Sam Altman 等人的领导下,能够打造出既安全又有益的通用人工智慧 。 Ilya 先前曾与 Sam Altman 就 AI 的发展速度发生冲突。

随后,超级对齐团队另一位负责人 Jan Leike 也宣布离职,知情人士声称,对 Leike 来说,Ilya 的退出导致分歧严重到了无法调和的地步。

Leike 周五发布声明称,超对齐团队一直在努力争取资源。“过去的几个月里,我的团队一直在逆风航行。有时连算力资源都难取得,而且越来越难以完成这项关键的研究。”当初 OpenAI 计划 4 年内将其 20% 的运算能力投入到该计划。

他称离职是因为自己与 OpenAI 在公司的“核心优先事项”上存在一系列分歧,他认为公司不够关注 AI 相关的安全措施。

OpenAI 周二宣布,公司联合创始人 JohnSchulman 将成为未来对齐工作的科学负责人。另外,OpenAI 在一篇部落格文章中表示,已任命研究总监 Jakub Pachocki 接替 Ilya 担任首席科学家。

责编: 爱集微
来源:钜亨网 #OpenAI#
THE END
关闭
加载

PDF 加载中...