当前位置: 首页 » 资讯 » 人物资讯 » 正文

刚刚,OpenAI CEO 发布万字长文:我们已经知道如何构建 AGI

IP属地 北京 编辑:陆辰风 AppSo 时间:2025-01-06 14:31:34

就在刚刚,OpenAI CEO Sam Altman 在 X 平台发布了一篇反思博客。

在这篇文章中,他以一位亲历者和领导者的视角,带我们走进了 OpenAI 自成立以来的发展历程,特别是过去两年来的重要时刻。

这当中,包括但不限于 ChatGPT 的诞生、他被解雇又复职的风波,以及 OpenAI 在 AGI 道路上的进展与挑战。

「这些年来,是我人生中最有成就感、最有趣、最快乐、最吸引人、最累人、最压力重重的几年——尤其是过去两年,是我人生中最为不愉快的时期。然而,压倒一切的感受是感激。」

如今的 OpenAI 正朝着更宏大的目标迈进。Altman 在文章中展望,到 2025 年,我们可能会见证首批 AI 智能体进入劳动力市场。

可以说,OpenAI 今天的每一个决定,或许都在塑造明天的世界。

附上博客原地址:

https://blog.samaltman.com/reflections

附上博客原文

山姆·奥特曼

反思

ChatGPT的第二个生日刚刚过去一个多月,现在我们已经迈入能够进行复杂推理的下一代模型时代。新年总是让人陷入反思的情绪中,我想借此机会分享一些关于这一过程的个人感想,以及一路上我所学到的一些东西。

随着我们离通用人工智能(AGI)越来越近,现在是回顾公司进展的重要时刻。仍然有许多需要理解的东西,还有许多未知之处,一切还处于非常早期的阶段。但我们现在的认知比刚开始时要多得多。

我们在近九年前创立 OpenAI,是因为我们相信 AGI 是可能的,并且它可能成为人类历史上最具影响力的技术。

我们希望探索如何构建它,并让其惠及更多人群;我们对能够在历史上留下印记感到兴奋。我们的抱负极其高远,我们也相信这项工作可能以同样非凡的方式造福社会。

在那个时候,很少有人对此感兴趣,而如果有的话,大多数人只是认为我们不可能成功。

在 2022 年,OpenAI还是一个安静的研究实验室,当时正在开发一个暂时被称为「与 GPT-3.5 聊天」(Chat With GPT-3.5)的项目。(我们在研究方面远比在命名方面擅长得多。)

我们一直在观察人们使用 API 的「游乐场」(playground)功能,并了解到开发者们非常喜欢与模型对话的体验。我们认为基于这种体验打造一个演示,不仅可以向人们展示未来的一些重要东西,还可以帮助我们让模型变得更好、更安全。

这条路并不容易。一路走来并不平坦,而正确的选择也往往不那么显而易见。

在过去的两年里,我们几乎白手起家,围绕这项新技术建立了一整家公司。对于这件事,唯一的学习方法就是实践。而当技术领域完全是全新的时候,没有人能确切告诉你应该如何去做。

以如此高的速度构建一家公司,而又几乎没有任何可参考的经验,这是一个充满挑战与混乱的过程。经常是两步向前,一步向后(有时候甚至是一步向前,两步向后)。 错误会在过程中逐步修正,但当你做原创性工作时,实际上是没有手册或路标可供参考的。

在未知领域快速前进是一种令人难以置信的体验,但对所有参与者来说,也极其紧张。冲突和误解频频出现。

这些年来,是我人生中最有成就感、最有趣、最快乐、最吸引人、最累人、最压力重重的几年——尤其是过去两年,是我人生中最为不愉快的时期。

然而,压倒一切的感受是感激。我知道有一天我会退休,在牧场里看着植物生长,感到有些无聊,同时回忆起自己曾经实现了孩提时代梦想的那些日子,那是多么的酷。我努力在每一个普通的星期五提醒自己这一点,即使那一天到下午一点已经有七件事出了差错。

大约一年前,在某个星期五,那天最主要的糟糕事情是我在一次视频通话中意外地被解雇了,就在我们挂断电话后,董事会立刻发布了一篇关于此事的博客文章。当时我正身处拉斯维加斯的一家酒店房间里。这种感觉,简直难以用语言形容,就像一个美梦变成了噩梦。

在没有任何预警的情况下被公开解雇,引发了一段非常疯狂的数小时,以及相当疯狂的几天。最大的困惑来自于「战争迷雾」。我们所有人都无法获得令人满意的答案,既不知道发生了什么,也不知道为什么会发生。

在我看来,这整个事件是一次善意但失败的治理的结果,其中也包括我自己的过失。回头看,我当然希望自己能以不同的方式处理事情,我也愿意相信,如今的我比一年前是一个更优秀、更深思熟虑的领导者。

同时,我也认识到拥有一个观点多元化且具备广泛经验的董事会的重要性,尤其是在应对复杂挑战时。良好的治理依赖于充足的信任和公信力。

我感激那么多的人一起努力,构建了一个更强大的 OpenAI 治理体系,使我们能够继续追求我们的使命,即确保 AGI 惠及全人类。

我的最大收获是意识到我有太多值得感激的事情,以及我欠了多少人的人情:感谢每一位在 OpenAI 工作的同事,他们选择将自己的时间和精力投入到这个梦想中;感谢那些在危机时刻帮助我们的朋友;感谢支持我们、信任我们并帮助我们实现他们成功的合作伙伴和客户;以及感谢我生活中那些向我展示他们关怀的人们。

我们所有人都以一种更具凝聚力和更积极的方式重返工作状态,我为自那以后我们的专注感到非常自豪。

我们开展了一些毫无疑问是迄今为止最出色的研究。 我们的每周活跃用户从大约 1 亿增长到超过 3 亿。最重要的是,我们持续向世界推出了人们真正喜欢并能够解决实际问题的技术。

九年前,我们真的不知道最终会成为什么样的人;即使到现在,我们也只是有了一个大概的了解。人工智能的发展经历了许多曲折,未来我们预计还会有更多的变化。

其中一些转折是令人欣慰的,而另一些则十分艰难。看着一连串的研究奇迹不断上演非常有趣,许多曾经的怀疑者已经转变成了坚定的支持者。

我们也看到一些同事分道扬镳,成了我们的竞争对手。随着公司规模的扩大,团队成员流动是不可避免的,而 OpenAI 的规模扩张速度异常迅猛。

我认为这种现象是无法避免的——初创公司通常会在每个重要的扩展阶段经历较多的人员流动,而 OpenAI 的增长速度几乎是每隔几个月就会增长几个数量级。

过去的两年,对我们来说就像是普通公司十年的成长。当任何一家公司以如此惊人的速度发展时,内部的利益和方向自然会开始分化。

而在任何一个行业中处于领先地位的公司,都会面临来自各方的攻击,尤其是在他们试图与这些公司竞争时。

我们的愿景不会改变,但我们的战术会继续发展。例如,最初我们根本没有想到要建立一个产品公司,我们原本只是想着进行卓越的研究。我们也没有意识到会需要如此庞大的资本投入。

现在,我们需要去构建一些几年前我们完全没有预见到的新东西,未来还会有一些我们目前几乎无法想象的新挑战。我们为迄今为止在研究和应用方面取得的成绩感到自豪,并将继续致力于推动我们在安全性和利益共享方面的深入思考。

我们依旧相信,确保 AI 系统安全的最佳方法是通过逐步并且渐进的方式将其推向社会,给社会足够的时间去适应并与技术共同进化,借助经验进行学习,并不断提升技术的安全性。

我们坚信在安全性和对齐性研究方面成为全球领导者的意义,并且通过来自实际应用的反馈来指导这项研究。

我们现在确信,按照传统理解,我们已经知道如何构建通用人工智能(AGI)。

我们相信,在 2025 年,我们可能会看到首批 AI 智能体「加入劳动力市场」,并在实质上改变公司的产出。我们依然相信,将优秀工具逐步交到人们手中,能够带来伟大的、广泛分布的成果。

我们开始将目标扩展到更远的地方,朝着真正意义上的超级智能迈进。

我们热爱当前的产品,但我们在这里是为了迎接光辉的未来。拥有超级智能后,我们可以做任何事情。超级智能工具将能够大幅加速科学发现和创新,远远超出我们单独的能力,从而极大地增加富裕和繁荣。

现在听起来像是科幻小说,甚至谈论这些事也显得有些疯狂。没关系——我们以前也经历过这样的阶段,我们能接受再次处于这种状态。

我们非常有信心,在未来几年,每个人都会看到我们看到的,并且意识到在追求广泛利益和赋能的同时,谨慎行动的重要性。

鉴于我们工作的可能性,OpenAI 不能是一家普通公司。能够在这项工作中发挥作用,真是既幸运又谦卑。(感谢 Josh Tyrangiel 的某种启发,真希望我们有更多时间。)

在那几天里,有很多人做了令人难以置信、巨大的工作,帮助了 OpenAI 以及我个人,但有两个人在所有人中脱颖而出。

Ron Conway 和 Brian Chesky 超出了职责范围,做了如此多的事情,我甚至不知道该如何形容。多年来,我当然听过关于 Ron 能力和坚韧不拔的故事,并且在过去几年里,我和 Brian 一起度过了大量时间,得到了极大的帮助和建议。

但没有什么比和人并肩作战更能看出他们真正能做什么。我相当确信,如果没有他们的帮助,OpenAI 很可能会崩溃;他们日以继夜地工作,直到事情完成。尽管他们工作得异常努力,但始终保持冷静,战略思维清晰,给出了宝贵的建议。

他们阻止我犯下几个错误,而他们自己没有犯任何错。他们利用自己庞大的网络资源,处理了所有需要的事情,并且能够应对许多复杂的情况。我相信他们做了很多我不知道的事情。

然而,我最难忘的,还是他们的关怀、同情和支持。我曾以为我知道什么叫做支持创始人和公司,在某种程度上,我确实知道一些。

但我从未见过,甚至从未听说过像他们这样做的事,现在我更能理解为什么他们拥有如此传奇的地位。他们与众不同,且都完全配得上他们独一无二的声誉,但他们也有一个共同点,那就是在困难时刻,他们具备令人惊叹的能力去移山,去帮助别人,且始终坚定不移地投入其中。

科技行业因为有他们俩而变得更加美好。

还有其他像他们一样的人;这正是我们行业的一个令人惊叹的特点,它在很多方面帮助了行业的运转,比人们意识到的要多得多。我期待着能够回报社会。更个人化的感谢,特别是感谢 Ollie 在那个周末以及始终以来的支持;他在各方面都无可挑剔,没人能要求一个更好的合作伙伴。

免责声明:本网信息来自于互联网,目的在于传递更多信息,并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。

全站最新