天天达

安全政策遭质疑 OpenAI解散AGI团队

 

    OpenAI确实解散了其AGI团队,这一举动引发了对其安全政策的质疑。 OpenAI正在解散其“AGI筹备”或“AGI Readiness”团队,该团队全称为Artificial general intelligence Readiness,即通用人工智能准备团队。它负责向OpenAI提供关于如何处理日益强大的人工智能技术以及世界是否准备好管理这些技术的政策建议,并进行安全监督。 AGI团队解散的原因是团队负责人Miles Brundage的离职。他在周三通过Substack发布的帖子中宣布了这一消息,并表示他离开的主要原因是机会成本太高了,他认为他的研究在外部会更有影响力,他想要减少偏见,并且他已经完成了他在OpenAI的目标。他还指出,OpenAI和其他前沿的人工智能实验室都没有做好准备迎接AGI的到来,世界也没有做好准备。 Miles Brundage计划成立自己的非营利组织,或加入现有的非营利组织,专注于人工智能政策研究和倡导。OpenAI发言人在给Seeking Alpha的电子邮件声明中表示,他们完全支持Miles的决定,并感谢他的贡献。 这一解散事件引发了外界对OpenAI安全政策的质疑,有观点认为OpenAI在商业化的道路上似乎已将人工智能安全抛之脑后。