奇谱科技 奇谱科技

CHIP奇谱
关注产品与技术 分享体验与新知
广告

没有人准备好迎接AGI,包括OpenAI

作者:原创

本周,OpenAI负责通用人工智能(AGI,即人类水平的人工智能)的高级顾问Miles Brundage宣布离职,并发出了严厉警告:没有人准备好迎接AGI,包括OpenAI本身。

“无论是OpenAI还是任何其他前沿实验室都没有准备好迎接AGI,世界也没有准备好,”Brundage写道。他花了6年时间帮助制定公司的AI安全计划。“要明确的是,我认为在OpenAI的领导层中,没有人对‘我们还没有准备好迎接AGI’这一观点持有异议。而且,这与公司和整个世界是否能在关键时刻做好准备,是两个截然不同的问题。”

关于OpenAI的另一条消息是,其计划在12月前推出下一个前沿模型Orion。虽然在OpenAI内部Orion被视为GPT-4的继任者,一位OpenAI高管曾暗示Orion可能比GPT-4强大100倍,但目前尚不清楚公司是否会在外部称之为GPT-5。

下一个模型的发布对OpenAI来说非常关键,刚刚完成了一项历史性的66亿美元融资轮次,这要求公司在两年内重组为盈利实体。在公司解散了致力于解决长期人工智能风险的Superalignment团队几个月后,Brundage的“AGI准备”团队也被解散,突显了OpenAI原始使命与其商业野心之间的紧张关系。

微软正在准备托管 OpenAI 的下一个模型Orion

Brundage的离职仅是OpenAI安全团队一系列高调离职中的最新一例。此前,著名研究员Jan Leike在声称“安全文化和流程已经让位于光鲜的产品”后离开了公司。联合创始人Ilya Sutskever也离开了,去创立自己的AI初创公司,专注于安全AGI的开发。

在解释他离职的原因时,Brundage表示他的研究和出版自由受到越来越多的限制。他强调了在AI政策讨论中需要独立的声音,这些声音不应该受行业偏见和利益冲突的影响。在向OpenAI领导层提供内部准备情况的建议后,他认为他现在可以从织外部对全球AI治理产生更大的影响。



赞(0)
未经允许不得转载:奇谱科技 » 没有人准备好迎接AGI,包括OpenAI
分享到:
广告