双语精读 | 山姆·阿尔特曼访谈：没有"神奇的红色按钮"来阻止人工智能

今日导读

OpenAI CEO山姆·阿尔特曼今日接受了经济学人的采访。采访中他表示，AGI（通用人工智能）的发展势不可挡，假如未来AGI出现，人类会和遇到ChatGPT时一样，先恐慌然后适应。他认为我们得对自己的看法保持灵活性，并紧跟时代的脉搏。

今日正文

These are two of the most important people shaping the future of artificial intelligence: Sam Altman, the CEO of OpenAI, the startup behind ChatGPT and Satya Nadella, the CEO of Microsoft, OpenAI's biggest investor.

这是两位塑造人工智能未来最重要的人物：山姆·阿尔特曼，OpenAI首席执行官，这是一家创业公司，推出了ChatGPT，以及萨提亚·纳德拉，微软公司的首席执行官，OpenAI背后最大投资者。

They spoke to The Economist's editor-in-chief about what the future of AI really looks like.

他们接受了《经济学人》的主编的访问，探讨了人工智能的未来真正面貌。

Sam, let's start with you.

山姆，我们先从你开始。

What are the most important capabilities that ChatGPT will develop in the next year?

你认为ChatGPT在未来一年内会发展出哪些最重要的功能？

The world had like a two-week freakout with GPT-4, right?

世界对GPT-4的反应就像是持续了两周的恐慌，对吧？

"This changes everything, AGI is coming tomorrow, there are no jobs by the end of the year".

“这改变了一切，通用人工智能明天就会到来，到年底就没有工作了”。

And now people are like, "Why is it so slow?" And I love that.

现在人们又在说，“它为什么这么慢？”我喜欢这点。

I think that's a great thing about the human spirit, that we always want more and better.

我认为这是人类精神的伟大之处，我们总是想要更多、更好。

We've not had this where there has been some general-purpose technology whose diffusion happened instantaneously everywhere.

我们从未遇到过这样的情况，某种通用技术的传播在全球范围内瞬间发生。

In any place health care and education is most of the government spend.

在任何地方，卫生保健和教育都是政府的主要支出。

You now have, right, the ability to give every student and every citizen of the globe better health advice and a better personalised tutor.

现在，你可以给全球的每个学生和每个公民提供更好的健康建议和更个性化的辅导。

You know, I often think one interesting way to measure this is, "What per cent of tasks can GPT-4 do?" Let's say it's 10%.

你知道，我经常认为衡量这个的一个有趣方式是，“GPT-4能完成百分之多少的任务？”假设是10%。

Can GPT-5 do 12% of human tasks?

GPT-5能做人类任务的12%？

Or 15%, or 20%?

15%或20%吗？

But the fact that so many people are able to use it for productivity in their workflow, that's the power and I know it's not a satisfying as saying here's each thing it will do, but it's that it becomes a companion for knowledge work.

但事实是，很多人能够在他们的工作流程中使用它提高生产力，这就是它的力量。我知道这并不像说出它将做的每件事那样令人满意，但它成为了工作的好伙伴。

It becomes a way to use a computer.

它成为了使用计算机的一种方式。

I hear that and that's an absolutely appropriate answer to my question but I guess I'm trying to get at the sense of whether this is incremental or whether it's radical, even in the next year?

我听到了你的回答，这绝对是对我的问题的恰当回答，但我猜我想了解的是，这是循序渐进的还是激进的？即使在明年？

I believe that someday we will make something that qualifies as an AGI by whatever fuzzy definition you want, the world will have a two-week freakout and then people will go on with their lives.

我相信有一天我们会创造出符合任何模糊定义的人工通用智能，世界也将会有两周的恐慌，之后人们还是会继续他们的生活。

Sam Altman just said the world would only have a two-week freakout when we get to AGI.

山姆·阿尔特曼刚刚说，当我们达到人工通用智能水平时，世界只会恐慌两周。

That's quite a statement to make.

这是一个相当大胆的说法。

One thing I say a lot is no one knows what happens next and I can't see to the other side of that event horizon with any detail.

我经常说的是，没有人知道接下来会发生什么，我也无法详细预见一个事件视角的另一面。

But it does seem like the deep human motivations will not go anywhere.

但似乎深层次的人类动机不会消失。

This is when people start getting alarmed.

这是人们开始感到警觉的时候。

Why?

为什么？

That we have no idea.

因为我们毫无头绪。

Well we're going to have an intelligence that is more intelligent than all of us.

我们将拥有一个比我们所有人都更聪明的人工智能。

And we have no idea what happens next.

并且我们不知道接下来会发生什么。

No, no, one thing I love to do is go back and read about the contemporaneous accounts of technological revolutions at the time.

不，不，我喜欢做的一件事是回顾当时的技术革命，看看当时人们都怎么想的。

And the expert predictions are just always totally wrong – That's a very good point.

专家的预测基本上总在打脸——这是毋庸置疑的。

And you need to have some flexibility in your opinions and look, have a tight feedback loop with how it's going with the world.

你得对自己的看法保持点灵活性，要紧跟时代的脉搏。

The amount of focus on safety and regulation is sort of very, very high.

现在对其安全性和规范性的关注颇高。

Tell me whether you think regulators have got it right or whether we're not doing enough.

能否透露一下，你觉得那些监管机构做得正确还是远远不够？

At this point if I look at what the White House EO is or what the UK Safety Summit is, what's happening in Europe, what's happening in Japan, they are going to have a say Nation states are absolutely going to have a say.

看看现在白宫的行政命令，英国的安全峰会，还有欧洲和日本的动态，国家方面绝对有发言权。

Absolutely, on what is the regulation that controls any technology development and most importantly, what is ready for deployment or not.

当然，控制任何技术发展的关键在于，判断技术准备完备与否。

And so I feel like we will all be subject to those regs.

所以我觉得我们都将受这些规定约束。

If you were ever in that room and you thought to yourself, this is getting dangerous, and this could actually have consequences that I would not want upon the world, would you then shout "stop" and would you stop?

如果你身居其位，心里想，这事儿可能存在危险，会对世界产生不可预想的后果，你会出来阻止吗，你会真的停下来吗？

There's no one big magic red button we have that blows up the data centre Which I think some people sort of assume exists.

我们没有什么神奇红色按钮可以一键炸毁数据中心，虽然有些人可能以为有。

It's not this binary go/stop decision.

这不是非黑即白的决定。

It is the many little decisions along the way about allow this, don't allow this, how to predict, what the risks of the future are going to be, how to mitigate those set this new value here, things like that.

这是一路以来许多小决策促成的，比如允许这个，禁止那个，预测未来的风险，怎样减轻这些风险，设定新的标准，之类的事情。

⭐️打开每日英语听力App，找到“每日英语听力 | 双语精读”专栏，获取完整版解析，还可以查看视频，搭配双语高亮同步字幕，学习更便捷~