OpenAI掌门:ChatGPT将成里程碑,担忧竞争对手走捷径

ChatGPT教育1年前 (2023)发布 一起用AI
432 0 0

OpenAI掌门:ChatGPT将成里程碑,担忧竞争对手走捷径

OpenAICEO山姆·奥特曼。人民视觉 资料图

“今后回首再看时,GPT-4将是一个刚刚起步的、迟缓的、故障重重的人工智能模型,”ChatGPT之父、OpenAI CEO山姆·奥特曼(Sam Altman)在当地时间3月25日接受科技主播、MIT人工智能研究员Lex Fridman采访时表示,“但是,早期的电脑也是这样无法胜任许多事情,这并不妨碍它们指向了一条极具前景的道路,其进化可能需要几十年的时间。”

奥特曼与Fridman近两个半小时的对谈信息密度极高,奥特曼分享了他对人工智能多个角度的见解,谈论了包括GPT-4、ChatGPT、人工智能安全、通用人工智能、马斯克、微软、政治偏见、市场竞争等在内的各类议题。

ChatGPT将成为人工智能的里程碑

在谈论人工智能发展的历史进程时,奥特曼指出,技术的发展是一个线性的过程,很难以“跨越式”的进步去定义,但如果一定要选出一个可以载入史册的时刻,他将挑选ChatGPT。

奥特曼表示,ChatGPT在可用性方面取得的重大突破,以及RLHF(Reinforcement Learning from Human Feedback,基于人类反馈的强化学习)的成功应用,让其有资格成为人工智能的里程碑。RLHF可以指导并训练人工智能对各类问题的答案,使其接近人类并减少训练数据量,奥特曼解释说,最简单的例子就是给出两个答案,并让人类进行选择,模型就可以基于此了解到哪一个更优。GPT-4从去年夏天就开始进行各种安全调试,同样在对齐(即满足使用者期望)方面取得了巨大的进步。

有趣的是,此前特斯拉CEO埃隆·马斯克也曾盛赞ChatGPT的可用性,他认为,ChatGPT的伟大之处就在于“向人们展示出了人工智能已经变得多么先进”,人工智能长期以来一直在迅速进步,但是却缺乏一个人人可以触及的界面,而ChatGPT做到了这一点。

近期,马斯克在社交媒体推特上不断对OpenAI发起攻势,奥特曼在访谈中则说道,“我理解他的想法,因为他很担心AGI(通用人工智能)的安全性。当然,我认为还有其他的动机,但这绝对是其中之一。”奥特曼也不吝对马斯克的赞美,“我很欣赏埃隆,他是我的英雄之一。尽管他在推特上有点粗暴,我希望他能更多地关注到,我们正在进行一项艰苦工作。”

被奥特曼夸赞的也不仅仅是马斯克,在谈话中,奥特曼同样表达了对微软公司CEO萨提亚·纳德拉的钦佩,称他“既是伟大的领导者、又是伟大的经理人,既有远见卓识、长谋擅略,又平易近人、有同理心”。

奥特曼即将开启全球用户之旅

谈论到人工智能,“偏见”与“安全”是不可避免的话题。

在和Fridman的对谈中,奥特曼表示,“当人们说,应该让人工智能与人类的偏好、价值观相一致时,这背后的意思是,要符合‘我个人’认可的价值观和偏好。”

他强调说,“并不存在一套人类价值观,或者说一套人类文明的正确答案。将来我们只能就这些系统能做什么来达成一套非常宽泛的协议,在这些边界内,不同的国家可能会有不同的RLHF调整,个别用户也有非常不同的偏好。我们发布了一个叫做‘系统消息’的东西,不是RLHF,但可以让用户最大限度获得控制权,我认为这样的东西将非常重要。”

针对人工智能的偏见问题及其可能进一步引发的安全隐患,社会上已不乏批评。

奥特曼认为,“你总是能找到GPT犯错或者存在偏见的个案证据,但我们很希望,能够就系统的偏见或者细节问题做出一般性的陈述。”

对于“标题党”新闻以及各种抨击,奥特曼回应说,自己并没有感到压力,“我确定它会产生各种微妙的影响,但我没有感觉到很多。我们很乐意承认自己的错误。”

对于不少人将人工智能人格化,奥特曼则表现出了谨慎态度。

许多人倾向于用“她”或“他”这样的人称代词来称呼ChatGPT等人工智能模型,赋予其人格。奥特曼指出,人工智能只是工具,而不是一种生物,把工具当成生物,甚至将情绪投射到其身上是十分危险的。

奥特曼说道,他能够理解有人有这方面的需求,未来也会有公司开发出基于GPT-4的宠物类或者人物类陪伴产品,但他自己对这个方向并不感兴趣。

对于由开发团队自身可能带来的偏见,奥特曼也毫不避讳,“人工智能的群体思维(group think)泡沫随处可见,很难避免,”奥特曼表示,他将要进行一次为期一个月的全球用户之旅,去不同的城市与用户交流,去与身处不同背景的人沟通,“这种交流在互联网上是行不通的,亲自去到他们所去的酒吧、走过他们走过的城市,你可以学到很多东西,摆脱泡沫的束缚。”

奥特曼:不在乎竞争,担忧竞争对手走捷径

在OpenAI之后,包括谷歌在内的竞争对手纷纷加速推出人工智能产品,对于市场竞争,奥特曼认为,世界上将有多个人工智能,OpenAI不需要去和所有人竞争,“我认为世界上有多个通用人工智能(AGI)是好事,它们在构建方式、着重点等方面都各有差异。”

奥特曼直言,对于所谓“竞争带来的压力”毫无畏惧,“我们是一个奇怪的组织,我们擅长抵抗压力。我们很长一段时间以来一直被误解、被嘲笑。成立之初,也就是在2015年,我们宣布要研究通用人工智能,当时人们觉得我们疯了。我记得有一位知名的人工智能科学家,说我们谈论通用人工智能简直荒谬。”

对于竞争对手,奥特曼最大的担忧反而是安全问题。他认为,人工智能的参与者中不乏有人要走捷径,甚至为了获取无限的价值而导致负面事情的发生,这是一件值得担忧的事情。

此外,他还介绍说,OpenAI的组织结构非常特殊,是在非营利性组织的基础之上,增设了营利组织分支,以便为OpenAI提供足够的资金支持,在支付成本之后,其营收全都流入非营利组织之中,这样的组织架构很好地保障了OpenAI的顺利运行。

© 版权声明

相关文章