萨姆·奥尔特曼写的一篇总结

发布于

图片

ChatGPT 诞生仅一个多月,如今我们已经过渡到可以进行复杂推理的下一代模型。新年让人们陷入反思,我想分享一些个人想法,谈谈它迄今为止的发展,以及我在这一过程中学到的一些东西。

随着我们越来越接近 AGI,现在似乎是审视公司进展的重要时刻。还有很多东西需要理解,还有很多我们不知道的东西,而且现在还为时过早。但我们知道的比刚开始时多得多。

我们大约九年前创立了 OpenAI,因为我们相信 AGI 是可能的,而且它可能是人类历史上最具影响力的技术。我们想弄清楚如何构建它并使其广泛受益;我们很高兴能尝试在历史上留下自己的印记。我们的抱负非常高,我们也相信这项工作可能会以同样非凡的方式造福社会。

当时,很少有人关心,如果他们关心,那主要是因为他们认为我们没有成功的机会。

2022 年,OpenAI 还是一个安静的研究实验室,正在研究一个暂时称为“与 GPT-3.5 聊天”的东西。(我们在研究方面比在命名方面要好得多。)我们一直在观察人们使用我们 API 的 场景,并且知道开发人员真的很喜欢与模型交谈。我们认为围绕这种体验构建一个演示将向人们展示一些关于未来的重要信息,并帮助我们使我们的模型变得更好、更安全。

我们最终将其称为 ChatGPT,并于 2022 年 11 月 30 日推出它。

我们一直都知道,在某个时刻,我们会达到一个临界点,人工智能革命将会开始。但我们不知道这个时刻是什么时候。令我们惊讶的是,结果就是这个。

ChatGPT 的推出开启了一条前所未有的增长曲线——在我们公司、行业乃至全世界。我们终于看到了我们一直希望从人工智能中得到的巨大好处,而且我们可以看到很快还会有更多的好处。

这并不容易。道路并不平坦,正确的选择也并不明显。

在过去的两年里,我们几乎从零开始围绕这项新技术建立了整个公司。除了亲自实践,没有其他方式来培训员工,而且当技术类别完全是全新的时,根本没有人能告诉你应该怎么做。

在缺乏培训的情况下以如此高的速度建立一家公司是一个混乱的过程。通常是前进两步,后退一步(有时是前进一步,后退两步)。错误会在你前进的过程中得到纠正,但当你从事原创工作时,实际上没有任何手册或指南。在未知的水域快速前进是一种令人难以置信的体验,但对所有参与者来说也非常有压力。冲突和误解比比皆是。

这些年是我迄今为止人生中最有回报、最有趣、最美好、最有趣、最累、最紧张,尤其是过去两年最不愉快的时光。我心中充满了感激;我知道有一天我会退休,在我们的牧场看着植物生长,有点无聊,会回想起能做我从小就梦想的工作是多么酷。我试着在任何一个星期五记住这一点,到下午 1 点就会有七件事变得很糟糕。

一年多前的一个星期五,那天最不顺心的事就是我在视频电话中被突然解雇,然后我们挂断电话后,董事会就发布了一篇关于此事的博客文章。当时我在拉斯维加斯的一间酒店房间里。那种感觉几乎无法用语言描述,就像一场梦境破灭了。

毫无征兆地被公开解雇,这几个小时和几天都让我非常疯狂。“战争迷雾”是最奇怪的部分。我们中没有人能得到关于发生了什么或为什么发生的满意答案。

在我看来,整个事件是包括我在内的善意人士治理的巨大失败。回想起来,我当然希望自己当时能做些不同的事情,而且我相信自己今天比一年前是一个更好、更有思想的领导者。

我还了解到,在应对一系列复杂挑战时,拥有多元化观点和丰富经验的董事会非常重要。良好的治理需要很大的信任和可信度。我很欣赏这么多人齐心协力为 OpenAI 建立更强大的治理体系,这使我们能够追求确保 AGI 造福全人类的使命。

我最大的收获是,我要感谢的人太多了,我要感谢的人太多了:感谢在 OpenAI 工作并选择花时间和精力去追求这个梦想的每一个人;感谢帮助我们度过危机时刻的朋友;感谢支持我们并信任我们帮助他们取得成功的合作伙伴和客户;感谢我生命中那些向我展示关心的人。

我们以更加团结和积极的方式重新投入工作,我为我们从那时起的专注感到非常自豪。我们所做的研究无疑是有史以来最好的研究之一。我们的每周活跃用户从大约 1 亿增长到 3 亿多。最重要的是,我们继续将人们真正喜欢的技术推向世界,并解决实际问题。

九年前,我们真的不知道我们最终会变成什么样;即使是现在,我们也只是有点知道。人工智能的发展经历了许多曲折,我们预计未来还会有更多曲折。

有些转折是快乐的,有些则很艰难。看着源源不断的研究奇迹发生,看到许多反对者成为真正的信徒,这很有趣。我们也看到一些同事分裂出去,成为竞争对手。团队在扩大规模时往往会发生人员变动,而 OpenAI 的扩张速度非常快。我认为其中一些是不可避免的——初创公司通常在每个新的重大规模水平上都会看到大量人员变动,而在 OpenAI,人员变动的数量每隔几个月就会增加几个数量级。过去两年就像一家普通公司的十年。当任何一家公司发展如此之快时,利益自然就会出现分歧。当任何一家重要行业中的公司处于领先地位时,很多人会出于各种原因攻击它,尤其是当他们试图与之竞争时。

我们的愿景不会改变,我们的策略会不断发展。例如,当我们开始创业时,我们不知道我们必须建立一家产品公司,我们以为我们只是要做伟大的研究。我们也不知道我们会需要如此多的资金。现在我们必须去创造一些几年前我们还不了解的新事物,未来还会有我们现在几乎无法想象的新事物。

我们为迄今为止在研究和部署方面取得的成绩感到自豪,并致力于继续推进我们在安全和利益共享方面的思考。我们仍然相信,确保人工智能系统安全的最佳方式是逐步迭代地将其发布到世界上,让社会有时间适应和与技术共同发展,从经验中学习,并继续使技术更安全。我们相信成为安全和协调研究领域的世界领导者,并通过来自现实世界应用的反馈来指导这项研究非常重要。

我们现在确信,我们知道如何按照传统方式构建 AGI。我们相信,到 2025 年,我们可能会看到第一批 AI 代理“加入劳动力队伍”,并实质性地改变公司的产出。我们仍然相信,不断将出色的工具交到人们手中,将带来广泛分布的出色成果。

我们开始将目标转向真正意义上的超级智能。我们喜欢现有的产品,但我们面向辉煌的未来。有了超级智能,我们就能做任何事情。超级智能工具可以大大加速科学发现和创新,远远超出我们自己能够做到的范围,从而大大增加富足和繁荣。

这听起来就像科幻小说,甚至谈论它都有些疯狂。没关系——我们以前经历过,我们也愿意再次经历。我们非常有信心,在未来几年里,每个人都会看到我们所看到的一切,而且谨慎行事的必要性非常重要,同时仍能最大限度地实现广泛的利益和赋权。考虑到我们工作的可能性,OpenAI 不能是一家普通的公司。

能够在这项工作中发挥作用是多么幸运和荣幸。