OpenAI美女CTO米拉・穆拉蒂说：博士生级别的AI将在一年半后发布(工作我認為模型)

美国达特茅斯工程学院本周四公布了对OpenAI首席技术官米拉·穆拉蒂（Mira Murati）的采访对话。
Mira Murati透露，大约一年半年后，OpenAI将发布博士生等级的人工智能AI，GPT-3相当于幼儿的智能水平，GPT-4更像高中生的智能水平。
但她强调，博士等级的AI仅适用于某些特定任务，“这些系统在特定任务中已经达到了人类水平，当然在许多其他任务中，它们还达不到。
”

事实上，微软首席技术官凯文·斯科特（Kevin Scott）在近期也表示，AI系统将拥有更持久的记忆能力，并且推理能力将得到显著提升。
新一代的AI模型将能够执行与高中生相当的复杂任务，甚至可能达到博士生水平的资格考试标准。

以下是详细对话内容

Jeff Blackburn: 谢谢，Alexis。
这座漂亮的建筑，真是太棒了。
Mira，感谢你能抽出时间来这里。
我可以想象你现在的日子一定非常忙碌。

Mira Murati: 很高兴能来到这里。

Jeff: 你能抽出时间来，真是太好了。

Mira: 我也很高兴在这里。

1， Mira的职业经历

Jeff: 我想直接进入主题，因为我知道大家都迫切想知道你的生活状况和你正在做的事情，因为这些都非常吸引人。
也许我们应该从你的经历讲起，你离开了 Thayer，去了特斯拉一段时间，然后又去了 OpenAI。
如果你能描述一下那段时间，还有早期加入 OpenAI 的情况。

Mira: 是的，我...在离开 Thayer 后，我实际上在航空航天领域工作了一段时间，然后我发现航空航天行业的发展速度有些慢，我对特斯拉的使命和其在建设可持续未来交通方面所面临的创新挑战深感兴趣，所以我决定加入特斯拉。
在 Model S 和 Model X 上工作之后，我发现我并不想仅仅局限于汽车行业。
我想在不同的领域工作，既能推动社会向前发展，又能带来一些工程上的挑战。

当我在特斯拉工作的时候，我对自动驾驶汽车产生了浓厚的兴趣。
我对这些技术的交叉应用产生了兴趣，比如将计算机视觉和 AI 应用于自动驾驶汽车。
我想，我应该更深入地学习 AI，但需要在不同的领域进行。
于是，我加入了一家创业公司，在那里我负责工程和产品的领导，将 AI 和计算机视觉应用于空间计算领域，这涉及到了计算的下一代接口。
那时，我认为未来的计算接口应该是虚拟现实和增强现实。
但现在我对此有了不同的看法，我开始思考如果可以用手来与复杂的信息进行交互那会是什么样的体验？比如公式、分子，或是拓扑学的概念。
这样可以以更直观的方式来学习和理解这些内容，从而拓宽我们的学习视野。
然而，虚拟现实的应用似乎还为时过早。
尽管如此，但这给了我一个机会，在不同的领域深入学习 AI。
我发现我的职业生涯始终处于技术与各种应用的交叉点，这使我从一个不同的角度去看待 AI 的发展进度以及其可能的应用领域。

2，AI技术的发展与应用

Jeff: 所以在特斯拉的自动驾驶项目中，你看到了机器学习和深度学习的运用。
你能看出这个趋势。

Mira: 是的。

Jeff: 你和 Elon 一起工作过吗？

Mira: 对，尤其是在过去一年中。
但当时这个方向并不清晰。
那时，我们还在把 AI 应用于特定的、小的领域，而非通用领域的应用。
你只把它应用于非常具体的问题，VR 和 AR 也是如此。
从那时起，我就想我并不只想把 AI 应用于特定问题。
我想要去了解研究，真正理解正在发生的事情，然后再去应用到其他领域。
所以我加入了 OpenAI，OpenAI 的使命对我非常吸引人。
当时它是一个非营利性的组织，使命没有改变。
组织结构发生了变化，但当我六年前加入时，它是一个致力于建立安全的人工通用智能的非营利性组织，除了 DeepMind，没有其他公司在做这个。
现在当然有很多公司都在构建自己版本的人工通用智能。

Jeff: 少数几个，是的。

Mira: 是的。
这就是我加入 OpenAI 的过程。

3，AI的基本知识与当前应用

Jeff: 明白了。
你在那里做了很多建设性的工作。
也许我们可以为大家介绍一些基础知识，比如机器学习，深度学习，以及现在的人工智能。
它们都是相互关联的，但也有它们各自的特性。
那么，这些是怎么运作的呢？又是如何在 ChatGPT，Dall-E，或者你们的视频产品中展现出来的呢？它们是如何工作的呢？

Mira: 对于这些，其实并没有什么特别新颖的地方。
我们所做的，实际上是建立在过去几十年人类的努力基础之上。
事实上，这一切就是从这里开始的。
过去十年间，发生的主要变化是 "神经网络"、"大数据"和"强大算力"这三者的结合。
将这三者结合起来，创造了这些具有变革性的 AI 系统或模型。
这些系统能够完成许多惊人的任务，比如说处理各种通用任务，但具体是如何实现的并不清楚。
深度学习确实能奏效。
我们一直在尝试理解并应用各种工具和研究方法，去理解这些系统是如何真正工作的，但我们知道它能工作，因为我们在过去的几年里已经实践过了。
我们也看到了它们随着时间的推移，表现得越来越好。
就像我们大约三年半前部署的 GPT-3 那样的大型语言模型。
GPT-3 的能力...

Jeff: 所以说，其实就是预测下一个词元。

Mira: 没错，基本上就是这样。

Jeff: 对。

Mira: 然后我们发现，如果你给这个模型设定一个目标，让它预测下一个词元，你用大量的数据来训练它，并且使用了大量的计算能力，你得到的也是一个模型，它在理解语言的水平上与我们人类非常接近。

Jeff: 因为它读过很多书。
它读遍了所有的书。

Mira: 基本上所有的内容在互联网上的。
但它并没有记住什么是下一个词。
它实际上是通过理解先前接触过的数据模式来生成对语言的理解。
然后我们发现，好的，这不仅限于语言。
事实上，如果你输入不同类型的数据，比如代码，它也能编写代码。
所以，说到底，它并不关心你输入的是什么类型的数据。
无论是图像、视频还是声音，它都能做同样的事情。

Jeff: 哦，我们稍后会谈到图像。

Mira: 是的。

(Jeff 笑了)

Jeff: 但是，对的，文本提示可以生成图像或视频，现在你甚至看到了反过来的情况。

Mira: 是的，正是如此。
所以你可以...我们发现，这个公式实际效果非常好，数据 + 算力 + 深度学习，你可以输入各种类型的数据，提高算力，那么这些 AI 系统的性能就会越来越好。
我们称之为规模化定律。
但这些并非真正的定律。
它更像是一个统计预测，你投入更多的数据和计算力，模型的能力就会相应提高。
这就是目前推动 AI 进步的原动力。

Jeff: 你们为什么从聊天机器人开始呢？

Mira: 是的，在产品开发上，我们其实是从 API 开始的。
我们并不清楚如何将 GPT-3 商业化。
将 AI 技术商业化实际上非常困难。
最初，我们以为这是理所当然的，因此我们专注于构建这个技术和进行研究。
我们认为，我们有这个了不起的模型，商业伙伴们，拿去吧，然后在它的基础上开发出惊人的产品。
然后我们发现，事实上这非常困难。
这也是为什么我们开始自己动手的原因。

Jeff: 这促使你们开始构建聊天机器人，

Mira: 是的，我们一直在努力理解，为什么对这些非常成功的公司来说，将这项技术转化为实用的产品如此艰难？

Jeff: 我明白了。

Mira: 这是因为构建产品的方式非常特别。
你是从能力着手。
你是从技术入手。
而不是从我想解决的世界性问题入手。
这是一种非常通用的能力。

4，AI未来的发展与挑战

Jeff: 这很快就会导向你刚才说的那种情况：也就是更多的数据，更多的算力，更强的智能。
这种智能最终会有多聪明呢？我是说，你的描述似乎表明，这个东西的规模化是相当线性的，你增加更多的这些元素，它就会变得更聪明。
过去几年里，ChatGPT 变得更聪明了吗，它何时能达到或接近人类的智能水平？

Mira: 是的，这些系统在特定任务中已经达到了人类水平，当然在许多其他任务中，它们还达不到。
如果你观察一下我们的进步轨迹，像 GPT-3 这样的系统，大概可以说智能水平相当于一个幼儿。
而像 GPT-4 这样的系统更像是高中生的智能水平。
在未来几年，我们期望看到针对特定任务的博士级别的智能。

Jeff: 比如说什么样的任务？

Mira: 那么，事情正在迅速改变和进步。

Jeff: 你的意思是从现在算起一年后吗？

Mira: 是的，差不多一年半的时间。

Jeff: 你正在和 ChatGPT 交谈，感觉它比你更聪明。

Mira: 在某些方面，是的。
在很多方面，是的。

Jeff: 也许离那个时间只有一年。

Mira: 嗯，或许吧。

Mira: 已经非常接近了。

Jeff: 大体上。
好吧，这确实引发了一些其他问题，我知道你对 AI 安全问题一直持有强烈的看法，我很高兴也为你感到骄傲，你一直在重视这个问题。
但是，人们确实想听听你对此的看法。
那么，三年后，当它的智能惊人地高时，会怎么样呢？它可以通过全球的每一次律师资格考试和我们曾经进行过的每一个测试。
然后它决定自己连接到互联网并开始行动。
这是真的吗，还是...或者，这是你在思考的问题作为首席技术官并引领产品方向时？

Mira: 是的，我们正在深入思考这个问题。
确实会有具备智能体能力的 AI 系统，它们能连接到互联网，相互交流，智能体之间相互连接并共同完成任务，或者与人类无缝协作。
就像我们今天与人相互合作一样与 AI 合作。
在谈及此项工作的安全性、保密性和社会影响时，我认为这些并非是事后才需要考虑的问题。
你可能需要在开发技术的过程中就考虑如何应对这些问题。
你必须要与技术一同构建这些应对措施，而且要深入地融入其中，才能做得正确。
智能和安全性实际上并不是两个独立的领域。
它们是相辅相成的。
引导一个更聪明的系统更容易，只需告诉它，“好的，不要做这些事情”即可。
他们需要引导一个不那么智能的系统。
就像训练一只聪明狗比一只笨狗更容易，所以智能和安全是相辅相成的。

Jeff: 它更聪明，因此更了解安全防护栏。

Mira: 对，是的，完全正确。
现在有一场辩论，究竟是进行更多的安全研究，还是进行更多的能力研究。
我认为这种看法有些误导，因为在部署产品时，必须考虑安全性和周围的防护措施。
但说到研究和开发，实际上，他们是相辅相成的。
从我们的角度看，我们对待这个问题的思考方式是非常科学的。
那就是，试着预测这些模型在我们实际完成训练之前会具备什么能力。
然后在这个过程中，我们要准备好如何处理这些模型的防护措施。
然而，这在目前的行业中并没有真正实现。
我们训练这些模型，然后有一些我们称之为“能力涌现”的情况，就像突然出现的。
我们并不知道它们会出现。
我们可以看到一种统计表现，但我们并不知道这种统计表现是否意味着模型在翻译，或生物化学，或编程等方面变得更好。
开发这种新的能力预测科学有助于我们为未来做好准备。

5，政策与监管

Jeff: 你的意思是，所有的安全工作都是为了与你的开发工作保持一致。

Mira: 是的，没错。

Jeff: 这是一个相似的道路。

Mira: 是的，因此你需要引领它前行，

Jeff: 但是，Mira，像 Volodymyr Zelensky 在视频中说的 "我们投降"，Tom Hanks 的视频，或者是某个牙医广告，这些问题怎么办？我记不清楚了。
这些类型的用途呢？这在你们的责任范围内吗，还是需要对此进行规定？你对这个问题的发展有什么看法？

Mira: 是的，我的观点是，这是我们的技术。
所以我们有责任管理它的使用方式，但同时也需要与社会、公民社会、政府、内容制作者、媒体等共同承担责任，一起确定如何使用它。
但是要使这成为一个共同的责任，你需要引导人们，你需要提供他们访问的机会，你需要为他们提供理解和提供防护措施的工具。

Jeff: 那些事情还是有点难以阻止的，对吗？

Mira: 嗯，我认为无风险是不可能的，但真正的问题是，你怎么去降低风险？并为人们提供实现这一目标的工具。
举个例子，对于政府来说，引导他们参与其中，并尽早让他们了解事情发展，向他们解释正在发生的事情，这非常重要。

Jeff: 政府。

Mira: 是的，当然，还有监管机构。
我认为 ChatGPT 最重要的事情之一是将 AI 带入公众的意识，让人们对这项技术的能力有一种直观的感觉，并了解它的风险。
阅读和亲自尝试是两回事，当你在业务中尝试时，会发现它不能做这些事，但能做其他惊人的事，这对劳动力或业务的实际意义是什么。
这能让人们做好准备。

Jeff: 是的，你说得很好。
这些你们创造的界面，像 ChatGPT，让人们了解即将到来的事物。
你可以使用它。
现在你可以看到背后的内容。
你觉得...就政府的观点做一个总结。
我的意思是，我们先谈谈美国吧。
你希望我们现在制定某些法规吗？在未来一两年内。
它非常智能，有点吓人。
所以现在是否应该采取些措施？

Mira: 我们一直倡导对拥有这些惊人能力但因滥用也有缺点的前沿模型进行更多监管。
我们一直在与政策制定者公开交流并积极地与监管机构合作。
在更为近期和小型的模型上，我认为应该允许生态系统具有丰富的多样性，而不应阻止那些在计算或数据资源上相对匮乏的人的创新。
因此，我们一直在倡导对风险更高的前沿系统进行更多的监管。
另外，你可以预见并提前准备即将发生的事情，而不是一直在追赶已经正在快速发生的变化。

Jeff: 但你可能不希望华盛顿特区来监管你发布的 GPT-5，比如你能或不能做这个。

Mira: 实际上，这取决于情况。
这取决于监管本身。
我们已经在做很多相关工作，现在这些工作已经成为白宫承诺中的一部分，这个进程——

Jeff: 已经在进行

Mira: 就是我们已经做了的工作。
实际上，这个进程影响了白

宫的承诺和联合国委员会正在制定的 AI 部署原则。
我认为，最好的做法是，实际工作，理解实践中它的含义，然后基于此来制定监管。
迄今为止的情况就是如此。
要想在这些前沿技术中保持领先，我们需要做更多的预测，更深入的探索预测能力的科学，以便做出正确的监管决定。

6，行业影响与未来应用

Jeff: 我希望政府中有足够的人能理解你们在做什么。

Mira: 看起来正在有越来越多的人加入政府，他们对 AI 有更深的理解，但这还不够。

Jeff: 好的。
在行业方面，你可能有全球最佳视角，可以看到 AI 将如何影响不同的行业。
我的意思是，它已经在金融、内容、媒体和医疗保健等行业产生了影响。
但是，向前看，你认为什么行业将受到 AI 和你在 OpenAI 的工作的最大影响？

Mira: 是的，这其实和我以前经常被问到的问题类似，当我们开始基于 GPT-3 构建产品的时候，创业者们经常会问我，"我能用它做什么？它有什么用处？"我会回答他们，可以做任何事。
所以，去试试吧。
所以，我认为 AI 会影响所有的事物，没有哪个领域不会受到影响，至少在高级脑力工作和一般脑力劳动工作方面是如此。
也许人工智能进入物理世界的步伐会稍慢一些但我认为所有的领域都将受到其影响。
到目前为止，我们发现在一些风险较高的领域，比如医疗和法律，人工智能的应用相对滞后。
这是可以理解的，因为我们需要先在风险较低和中等的领域进行试验，确保在这些领域中的应用能够得到有效的处理，然后再将其应用到风险更高的领域。
最初，人工智能的运用应该在更多的人类监督下进行，然后逐渐的，人工智能应该被赋予更多的任务，并且在可以的情况下，人工智能应该与人类更加紧密的合作。

Jeff: 有你个人特别感兴趣，或者正在看到，或者期待看到的应用场景吗？

Mira: 是的，我认为无论你在尝试做什么，无论是设计新的项目，编写程序，写文章，写邮件，或者其他任何事情，人工智能都能让你的第一步变得更加容易。
这就是我最喜欢的应用方式。
到目前为止，我一直在用它来帮助我完成。

Jeff: 所有事情的初步草稿。

Mira: 是的，所有事情的初稿。
它使得工作的效率大大提升。
人工智能降低了开始做某事的难度，使你能够专注于更具创意和难度更大的部分，尤其在编程中。
你可以把大部分繁琐的工作交给它来做。

Jeff: 文档和所有这些东西。

Mira: 是的，文档和...但在行业中，我们看到了很多应用。
客户服务绝对是与聊天机器人的一个大应用，还有写作，还有数据分析，因为我们已经让很多工具和核心模型相连接，这使得模型的使用更加方便，效率也更高。
所以，你有像代码分析这样的工具。
它可以分析大量的数据。
你可以把各种数据导入，它会帮你分析和筛选数据，或者你也可以使用图像，也可以使用浏览工具。
所以，如果你正在准备一篇论文，这项工作中的研究部分可以更快、更严谨地完成。
所以我觉得，提高生产力的下一步，是将这些工具添加到核心模型中，使其运行更加流畅。
模型会自行决定何时使用分析工具，何时搜索，或者进行其他操作。

Jeff: 编写一个程序。
是的，是的。
有趣。
它看过全球所有的电视节目和电影吗？它会开始写剧本和制作电影吗？

Mira: 嗯，它是一个工具。
因此，作为一个工具，它绝对有能力做这些，我预计我们实际上会和它一起工作，它将能够激发我们的创造力。
现在，人们对创造力的理解往往是，它是一种只有少数才华横溢的人才能接触到的特殊东西。
而这些工具实际上降低了门槛，让任何人都可以认为自己是有创造力的，并且进一步激发他们的创造力。
所以在这个意义上，我认为它将是非常令人惊奇的。

Jeff: 是的，它可以轻松地给我提供 200 种不同的第一集结尾的悬念。

Mira: 是的。
你可以继续编写故事，故事可以无休无止。
你可以继续。

Jeff: 继续下去。
我写完了，但可以继续。
这很有趣。

Mira: 但我认为它实际上将是一个合作的工具，尤其是在创新领域。

Jeff: 我也这么认为。

Mira: 是的，会有更多人变得更有创造力。

Jeff: 现在有一些恐惧。

Mira: 当然，这是肯定的。

Jeff: 但你的意思是，这种情况会改变，人们会找出如何更好地进行创作性工作？

Mira: 我觉得会的。
有些创造性工作可能会消失，但也许它们本就不应该存在，如果它们产出的内容质量不高的话。
但我坚信，将其作为教育工具，创造力能够扩大我们的智力，增强我们的创造力和想象力。

Jeff: 嗯，人们曾经担心 CGI 和其他类似的东西会摧毁电影业。
他们非常恐慌。
这是，我认为是更大的变革，但是是的，面对这类新事物，人们的第一反应总是，“天哪，这是...”。
但我希望你对于电影和电视的看法是正确的。

7，AI 对就业的影响

Jeff: 好，你提到了工作岗位的问题，我们先不谈好莱坞的事情，但是有很多工作岗位，人们担心它们可能面临风险。
你对 AI 导致的就业流动，以及你在 OpenAI 的工作，甚至整体状况有什么看法？人们是否真的应该对此感到担忧？哪些工作受影响最大，或者你怎么看待这整个问题的？

Mira: 是的，我的意思是，我们其实还不太理解 AI 会对就业带来什么影响。
首先，我们需要做的是帮助人们明白这些系统有什么能力，能做什么，把它们融入到他们的工作流程中，然后开始预测和预见它们的影响。
同时，我觉得人们没有意识到这些工具已经在大范围内被使用了，这是一个目前尚未被研究的问题。
所以，我们应该去研究现在的情况，研究现在的工作性质和教育性质，这将帮助我们预测如何为这些能力的提升做好准备。
在具体的工作岗位方面，我不是经济学家，但我确实预计很多工作会发生变化，有些工作会消失，有些工作会增加。
我们并不特别清楚这会是什么样子，但你可以设想，那些重复性的工作，那些完全重复的工作，并且人们没有进一步发展的工作，这些工作可能会被取代。

Jeff: 像 QA，和测试代码，和类似的工作，这些工作都都已经完成了。

Mira: 是的，如果只是那种或者仅仅是

Jeff: 这只是一个例子。
有很多类似的情况。

Mira: 是的，很多情况。

Jeff: 你认为会有足够的工作在其他地方创建出来来补偿那些失去的工作吗？

Mira: 我认为会有很多新的工作岗位产生，但具体会有多少新工作，改变多少工作、以及失去多少工作，我真的不确定。
我甚至认为没有人能够准确预测，因为这是一个没有被深入研究的领域，但它确实应该被重视和研究。
然而，我相信经济会随之改变，这些 AI 工具将会创造出巨大的价值。
所以，问题在于我们如何有效利用这些价值？如果工作的性质发生了根本性的改变，那么我们应如何将经济价值更公平地分配到社会各个角落？是通过公共福利？还是通过无条件基础收入（UBI）？或者是通过其他全新的系统？这些都是需要我们去探索并找出答案的问题。

8，AI 在教育中的作用

Jeff: 你刚才提到的这个任务中，高等教育起着重要的作用。
只是现在还没完全开始。

Mira: 是的。

Jeff: 那么对于高等教育以及 AI 的未来还有什么？你认为高等教育在你眼中的这个演变过程中应该扮演什么样的角色？

Mira: 我觉得我们真正需要搞清楚的是如何利用这些工具和 AI 来推进教育。
因为我认为 AI 的最大用途之一就是在教育中，它能够提升我们的创造力和知识水平。
我们有机会建立高质量且易于获取的教育资源，理想情况下可以免费提供给世界上任何人，不论其语言或文化背景。
我们真的可以为全世界的任何人提供定制化的理解和教育。
当然，在像达特茅斯这样的学校里，由于教室规模较小，学生可以得到更多关注。
但即使在这里，你也可以想象存在一对一的辅导，更不用说世界上的其他地方了。

Jeff: 辅助。

Mira: 对。
因为我们并没有花足够的时间学习如何学习。
这种情况通常在大学才开始发生。
这其实是一种很基础的东西，你如何学习，否则你可能会浪费大量的时间。
课程、课程大纲、习题，所有这些都可以根据你作为个体的学习方式来定制。

Mira: 所以你认为，像在达特茅斯这样的地方，AI 可以补充一些正在进行的学习吗？

Mira: 哦，绝对的，是的。

Jeff: 就像让 AI 当私教一样。

（注：本文为转载分享）