人工通用智能在哪里？看看我祖父的猜测？

FT4月14日报道，1946年，我的祖父以“默里·莱恩斯特”（Murray Leinster）的笔名发表了一篇名为《逻辑名叫乔》（A Logic Named Joe）的科幻小说。在这个故事中，每个人都有一台连接到全球网络的计算机（称为“逻辑”），可以从银行业务到报纸和视频通话等各种事务。有一天，其中一台逻辑，乔，开始为网络上的任何请求提供有用的答案：比如，发明一种无法检测的毒药，或者建议最佳的银行抢劫方法。随之而来的是恐慌——“检查你的审查电路！”——直到他们想出了该拔掉哪个插头的办法。

自从我们开始思考计算机以来，我们就一直在思考制造“人工智能”，并且思考它意味着什么。有一个老笑话说，人工智能就是一切还没有运行的东西，因为一旦它开始运行，它就只是软件。计算器可以进行超人类的数学计算，数据库可以拥有超人类的记忆力，但它们不能做其他任何事情，也不理解自己在做什么，就像洗碗机不理解盘子一样。数据库是超人类的，但它们只是软件。但人类确实具有不同的东西，同样，狗、黑猩猩、章鱼和许多其他生物也是如此。人工智能研究人员称之为“通用智能”。

如果我们能够制造出人工通用智能，或者AGI，那么显然这将和计算、电力或者也许是蒸汽一样重要。今天我们可以印刷微芯片，但如果你能够印刷出人类水平或者更高水平的数字大脑，并且能够以十亿计量的话，会发生什么呢？至少，这将是我们能够自动化的巨大变化，正如我祖父和其他上千位科幻作家所指出的，这可能意味着更多：蒸汽机不会对人们发表意见。

自1946年以来的每隔几十年，人们都会兴奋地认为这可能近在咫尺（1970年，人工智能先驱马文·明斯基声称我们将在三到八年内拥有人类级别的AGI）。18个月前火爆的大语言模型（LLMs）又引发了另一波热潮。本周，OpenAI和Meta发出信号，它们即将发布的新模型可能具备推理和规划的能力。以前认为AGI仍需数十年才能实现的认真的人工智能科学家现在认为AGI可能更接近了。

在极端情况下，所谓的“末日论者”认为，目前的研究存在AGI自发出现的真实风险，而这可能对人类构成威胁。他们呼吁政府采取紧急行动。一些这种说法来自自私的公司，它们寻求竞争壁垒（“这是非常危险的，我们正在尽可能快地建造它，但不要让任何其他人也这样做”），但其中也有很多是真诚的。

然而，对于每个认为AGI可能近在咫尺的专家，都有另一个持不同看法的人。有人认为LLMs可能一直扩展到AGI，而另一些人则认为我们仍然需要未知数量的未知突破。更重要的是，他们都会同意我们实际上并不知道。

问题在于，我们没有一个关于通用智能真正是什么，以及为什么人类比狗更擅长它的一致性理论模型。同样，我们也不知道为什么LLMs似乎运行得如此出色，以及它们可以提升多少。我们对其中的某些部分有许多理论，但我们不知道整个系统。我们无法将人类和ChatGPT绘制在一张图上，并说哪一天一个会达到另一个。事实上，AGI本身就是一个思维实验：我们实际上会得到什么样的AGI？它可能比人类聪明100倍，或者它可能更快，但不会更聪明。我们可能只能制造出与狗一样聪明的AGI。我们不知道。

这就是为什么所有关于AGI的讨论都会转向类比：如果你能将其比作核裂变，那么你就知道该怎么做了。但是，再次强调，我们有关于核裂变的理论，但我们没有关于AGI的这种理论。因此，我更喜欢的类比是阿波罗计划。我们对重力有一个理论，对火箭工程学也有一个理论。我们知道为什么火箭不会爆炸，为什么它们会升空，以及它们需要飞多远。但在这里，我们没有类似的知识。我们不知道LLMs为什么有效，它们能变得多大，或者它们还需要走多远。然而，我们仍在不断扩大它们的规模，它们似乎正在逼近。它们会成功吗？也许会！

那么，你对于真实但未知的风险有什么偏好的态度呢？你是担心，还是无所谓？你更喜欢哪种思想实验？假设，尽管如此，你决定了厄运论者是正确的：你能做些什么呢？技术原则上是公开的。开源模型正在蓬勃发展。目前，LLMs需要大量昂贵的芯片（英伟达在上个财年销售了475亿美元，但仍无法满足需求），但在十年的观察期内，模型将变得更加高效，而芯片将无处不在。最终，你无法禁止数学。它无论如何都会发生。

但默认情况下，这股最新的激情将遵循AI的所有其他浪潮，并成为“只是”更多的软件和更多的自动化。自动化一直以来都会产生摩擦性的痛苦，回到卢德派。英国邮政的丑闻提醒我们，你并不需要AGI来毁掉人们的生活。LLMs会产生更多的痛苦和更多的丑闻，但生活会继续下去。至少，这是我比较喜欢的答案。

新闻来源：FT      作者：Benedict Evans 

编辑：Audrey

（声明：请读者严格遵守所在地法律法规，本文不代表任何投资建议）