前 OpenAI “AGI 准备工作”负责人:AI 将很快完成人类在计算机上能做的一切

据《商业内幕(Business Insider)》当地时间 3 日报道,OpenAI 前政策研究与“AGI (AI在线注:通用人工智能)准备工作”负责人 Miles Brundage 表示,未来几年行业可能会开发出“几乎能够远程完成”人类能通过计算机操作的所有任务的系统,包括使用鼠标和键盘,甚至在视频聊天中呈现出“人类形象”。 对于 OpenAI 等公司来说,开发具备 AGI 的机器的时间表是业内广泛关注的热点话题。 一些领域中的重要人物相信,这项技术将在未来数年内到来。

据《商业内幕(Business Insider)》当地时间 3 日报道,OpenAI 前政策研究与“AGI (AI在线注:通用人工智能)准备工作”负责人 Miles Brundage 表示,未来几年行业可能会开发出“几乎能够远程完成”人类能通过计算机操作的所有任务的系统,包括使用鼠标和键盘,甚至在视频聊天中呈现出“人类形象”。

对于 OpenAI 等公司来说,开发具备 AGI 的机器的时间表是业内广泛关注的热点话题。一些领域中的重要人物相信,这项技术将在未来数年内到来。OpenAI 的联合创始人、八月离职的研究科学家 John Schulman 也认为 AGI 可能会在几年内实现。OpenAI 的竞争对手 Anthropic 的 CEO Dario Amodei 则预测,这项技术的某种版本可能会在 2026 年问世。

Brundage 上月宣布离开 OpenAI,结束了他在公司的六年多职业生涯,对于 OpenAI 的 AGI 时间表,他拥有较深的理解。在任职期间,他曾向公司高层提供 AGI 的相关建议,并参与了 OpenAI 的一些关键安全研究创新,包括引入外部专家对产品进行漏洞测试的“红队测试”。

近来,OpenAI 不少高层安全研究人员和高管离职,也有人指出公司在 AGI 发展与安全之间存在平衡问题。Brundage 表示,他的离职并非由于具体的安全问题。“我对其他实验室完全掌握这些事项不抱信心。”

据AI在线了解,在离职公告中,他表示希望以非营利机构的政策研究员或倡导者身份产生更大影响。“首先,我无法从事我想做的所有工作,尤其是跨行业的关键问题。所以不仅是 OpenAI 的内部事务,还包括应该出台哪些监管措施等。”他说。

“第二,我希望能够更加独立,减少偏见。我不希望人们因为我是公司内部人士就将我的观点当成简单的企业宣传。”

相关资讯

论文发表难,OpenAI又有高管走了,还发了篇长文

OpenAI 的离职潮仍未止息。 这一次离开的是 Miles Brundage,他是 OpenAI 一位资深研究者和管理者,于 2018 年加入 OpenAI,离职前担任 AGI Readiness 团队的高级顾问,之前还曾领导过 Policy Research 团队。 更早之前,他曾在牛津大学人类未来研究所从事研究工作。

OpenAI六年元老再发文:全球AI狂飙,我们应该拉手刹还是踩油门?

10月末,OpenAI在政策研究领域方面的6年元老Miles Brundage离职,顺便发表了一篇博文,解释自己离职的原因,并直言——我们远远没有为AGI做好准备。 图片10天后,似乎是觉得这篇文章意犹未尽,Brundage再次发文,题为「AI发展是应该加速、放缓,还是保持不变? 」图片虽然标题是问句,导读的一句话也充满了不可知论色彩,但文章的结论非常明确——谨慎起见,我们应该为全社会的AI发展安装一个「刹车」。

OpenAI 回应“封嘴”离职条款:从未回收过任何员工股权

OpenAI 首席执行官阿尔特曼在 X (推特)上就此前“封嘴”离职条款传闻进行回应:公司从来没有收回任何人的既得股权,哪怕人们没有签署离职协议(或不同意非贬低协议),也不会采取上述做法。阿尔特曼表示,“这是我的责任,是我在管理 OpenAI 过程中为数不多的几次真正尴尬的事情之一。我不知道会发生这种事,但我本应该知道。”在过去一个月左右的时间里,该团队已经开始修复标准离职文件。如果任何签署了这些旧协议的前雇员对此感到担心,他们可以联系我,我们也会解决这个问题。对此感到非常抱歉。在 OpenAI 此前的离职文件中,