,

山姆・奥特曼“反思”给独立开发者的重要启示

ChatGPT 两周年纪念日才刚过去一个多月,如今我们已迈入能够进行复杂推理的模型的新时代。新年总让人陷入反思,我想分享一些关于公司发展至今的个人思考,以及一路走来的所学所得。

随着我们越来越接近通用人工智能(AGI),感觉这是审视公司发展进程的重要时刻。仍有太多有待理解的地方,太多未知,一切都还为时尚早。但相比初创之时,我们已了解了更多。

大约九年前,我们创立了 OpenAI,因为我们相信通用人工智能是可能实现的,且它可能成为人类历史上最具影响力的技术。我们想弄清楚如何构建它,并使其广泛造福人类;我们满怀激情,渴望在历史上留下印记。我们的抱负极高,同时坚信这项工作或许能以同样非凡的方式造福社会。

当时,很少有人在意,即便有人关注,大多也是觉得我们毫无成功的可能。

2022 年,OpenAI 还是一个默默无名的研究实验室,当时正在研究一个暂称为 “与 GPT – 3.5 聊天” 的项目。(我们在研究方面比取名方面擅长得多。)我们观察到人们使用我们 API 的测试平台功能,发现开发者真的很喜欢与模型对话。我们认为围绕这种体验打造一个演示版本,既能向人们展示未来的重要趋势,也有助于我们将模型打造得更好、更安全。

最终,我们干脆将其命名为 ChatGPT,并于 2022 年 11 月 30 日推出。

我们一直隐约知道,在某个时刻我们会迎来转折点,进而开启人工智能革命。但我们不知道那个时刻何时到来。令我们惊讶的是,原来就是 ChatGPT 的推出。

ChatGPT 的推出开启了一条前所未有的增长曲线 —— 无论是在我们公司、行业,还是整个世界范围内。我们终于看到了一直期望从人工智能中获得的巨大潜力,并且能预见到更多潜力即将释放。

这一路走来并不容易。道路并不平坦,正确的选择也并非一目了然。

在过去两年里,我们几乎从零开始,围绕这项新技术打造了一整个公司。除了亲身实践,没有其他方法能培养相关人才,而且当技术领域全新时,根本没有人能确切告诉你该怎么做。

在几乎没有培训的情况下,如此快速地建立一家公司是个混乱的过程。常常是进两步退一步(有时甚至是进一步退两步)。过程中错误会得到纠正,但当你从事开创性工作时,真的没有任何手册或指引。在未知领域快速前行是一种非凡的体验,但对所有参与者来说也极具压力。冲突和误解比比皆是。

这些年是我人生中收获最多、最有趣、最美好、最令人疲惫、压力最大的时光,尤其是过去两年,也有诸多不愉快。总体而言,心中满是感恩;我知道有一天我会退休,在农场看着植物生长,或许会有点无聊,但那时回想起来,我会觉得自己能从事从小就梦想的工作是多么酷的一件事。每当周五下午 1 点前出了七件糟糕的事情时,我就试着这样想。

一年多前的一个周五,那天最糟糕的事情是我在视频通话中被突然解雇,然后我们一挂断电话,董事会就发布了一篇关于此事的博客文章。当时我在拉斯维加斯的酒店房间里。那种感觉,几乎难以言表,就像一场噩梦。

毫无预兆地被公开解雇,开启了疯狂的几个小时,随后是相当疯狂的几天。最奇怪的是那种 “战争迷雾” 般的状态。我们谁都无法得到关于发生了什么以及为什么的满意答案。

在我看来,整个事件是包括我在内的一群善意之人在治理方面的重大失败。回首往事,我当然希望自己当初能做得不一样,而且我愿意相信,如今的我比一年前更优秀、更具思考力。

我还明白了董事会成员拥有多元观点以及在应对一系列复杂挑战方面具备丰富经验的重要性。良好的治理需要大量的信任和公信力。我很感激这么多人共同努力,为 OpenAI 建立了更强大的治理体系,使我们能够继续追求确保通用人工智能造福全人类的使命。

我最大的感悟是,我有太多要感恩的人和事:感谢 OpenAI 的每一位员工,他们选择投入时间和精力追逐这个梦想;感谢帮助我们度过危机时刻的朋友们;感谢支持我们并信任我们能助其成功的合作伙伴和客户;感谢我生命中那些让我感受到关爱的人。[1]

之后,我们以更团结、积极的方式回归工作,我为我们从那以后的专注感到非常自豪。我们完成了一些堪称有史以来最出色的研究。我们的每周活跃用户从约 1 亿增长到了 3 亿多。最重要的是,我们持续向世界推出人们真心喜爱且能解决实际问题的技术。

九年前,我们真的不知道最终会发展成什么样;即便现在,也只是略知一二。人工智能的发展充满了曲折,我们预计未来还会有更多波折。

有些转折令人欣喜,有些则异常艰难。看着一连串研究奇迹不断涌现,许多唱反调的人也转变为真正的信徒,这很有趣。我们也看到一些同事离开并成为竞争对手。随着公司规模扩大,团队人员往往会发生变动,而 OpenAI 的发展速度极快。我认为这在一定程度上是不可避免的 —— 初创公司在每次规模大幅提升时通常都会经历人员变动,而 OpenAI 每隔几个月规模就会呈数量级增长。过去两年相当于普通公司的十年。当任何一家公司如此快速地成长和演变时,利益自然会产生分歧。而且当重要行业中的任何一家领先公司,都会因各种原因遭到诸多攻击,尤其是当竞争对手试图与之竞争时。

我们的愿景不会改变,但策略会不断演变。例如,初创时我们根本没想到要打造一家产品公司;我们以为只会专注于出色的研究。我们也没想到会需要如此巨额的资金。现在有一些几年前还不理解的新事物需要我们去打造,未来还会有一些我们现在几乎无法想象的新事物。

我们为目前在研究和应用方面取得的成绩感到自豪,并致力于继续推进我们在安全性和利益共享方面的思考。我们始终认为,让人工智能系统安全的最佳方式是通过迭代和逐步将其推向世界,让社会有时间适应并与技术共同发展,从经验中学习,不断提高技术的安全性。我们坚信在安全性和对齐研究方面成为世界领先者的重要性,并通过实际应用的反馈来指导这项研究。

如今,我们有信心知道如何按照传统认知构建通用人工智能。我们相信,在 2025 年,我们可能会看到首批人工智能代理 “加入劳动力大军”,并切实改变公司的产出。我们始终相信,不断将优秀工具交到人们手中,会带来广泛且出色的成果。

我们现在开始将目标转向更深远的方向,即真正意义上的超级智能。我们喜爱当前的产品,但我们追求的是辉煌的未来。有了超级智能,我们无所不能。超级智能工具可以极大地加速科学发现和创新,远超我们人类自身的能力,进而大幅提升富足和繁荣程度。

这听起来现在就像科幻小说,甚至谈论起来都有些疯狂。没关系 —— 我们以前也曾如此,并且对此并不介意。我们相当确信,在未来几年,每个人都会看到我们所看到的,并且认识到在最大限度实现广泛利益和赋能的同时,谨慎行事是多么重要。鉴于我们工作的可能性,OpenAI 不能是一家普通的公司。

能够在这项工作中发挥作用,是多么幸运又令人谦卑的事。

(感谢乔什・泰兰吉尔某种程度上促使我写下这些。真希望我们能有更多时间。)