人工通用智能在哪里?看看我祖父的猜测?

FT4月14日报道,1946年,我的祖父以“默里·莱恩斯特”(Murray Leinster)的笔名发表了一篇名为《逻辑名叫乔》(A Logic Named Joe)的科幻小说。在这个故事中,每个人都有一台连接到全球网络的计算机(称为“逻辑”),可以从银行业务到报纸和视频通话等各种事务。有一天,其中一台逻辑,乔,开始为网络上的任何请求提供有用的答案:比如,发明一种无法检测的毒药,或者建议最佳的银行抢劫方法。随之而来的是恐慌——“检查你的审查电路!”——直到他们想出了该拔掉哪个插头的办法。



自从我们开始思考计算机以来,我们就一直在思考制造“人工智能”,并且思考它意味着什么。有一个老笑话说,人工智能就是一切还没有运行的东西,因为一旦它开始运行,它就只是软件。计算器可以进行超人类的数学计算,数据库可以拥有超人类的记忆力,但它们不能做其他任何事情,也不理解自己在做什么,就像洗碗机不理解盘子一样。数据库是超人类的,但它们只是软件。但人类确实具有不同的东西,同样,狗、黑猩猩、章鱼和许多其他生物也是如此。人工智能研究人员称之为“通用智能”。


如果我们能够制造出人工通用智能,或者AGI,那么显然这将和计算、电力或者也许是蒸汽一样重要。今天我们可以印刷微芯片,但如果你能够印刷出人类水平或者更高水平的数字大脑,并且能够以十亿计量的话,会发生什么呢?至少,这将是我们能够自动化的巨大变化,正如我祖父和其他上千位科幻作家所指出的,这可能意味着更多:蒸汽机不会对人们发表意见。


自1946年以来的每隔几十年,人们都会兴奋地认为这可能近在咫尺(1970年,人工智能先驱马文·明斯基声称我们将在三到八年内拥有人类级别的AGI)。18个月前火爆的大语言模型(LLMs)又引发了另一波热潮。本周,OpenAI和Meta发出信号,它们即将发布的新模型可能具备推理和规划的能力。以前认为AGI仍需数十年才能实现的认真的人工智能科学家现在认为AGI可能更接近了。


在极端情况下,所谓的“末日论者”认为,目前的研究存在AGI自发出现的真实风险,而这可能对人类构成威胁。他们呼吁政府采取紧急行动。一些这种说法来自自私的公司,它们寻求竞争壁垒(“这是非常危险的,我们正在尽可能快地建造它,但不要让任何其他人也这样做”),但其中也有很多是真诚的。


然而,对于每个认为AGI可能近在咫尺的专家,都有另一个持不同看法的人。有人认为LLMs可能一直扩展到AGI,而另一些人则认为我们仍然需要未知数量的未知突破。更重要的是,他们都会同意我们实际上并不知道。


问题在于,我们没有一个关于通用智能真正是什么,以及为什么人类比狗更擅长它的一致性理论模型。同样,我们也不知道为什么LLMs似乎运行得如此出色,以及它们可以提升多少。我们对其中的某些部分有许多理论,但我们不知道整个系统。我们无法将人类和ChatGPT绘制在一张图上,并说哪一天一个会达到另一个。事实上,AGI本身就是一个思维实验:我们实际上会得到什么样的AGI?它可能比人类聪明100倍,或者它可能更快,但不会更聪明。我们可能只能制造出与狗一样聪明的AGI。我们不知道。


这就是为什么所有关于AGI的讨论都会转向类比:如果你能将其比作核裂变,那么你就知道该怎么做了。但是,再次强调,我们有关于核裂变的理论,但我们没有关于AGI的这种理论。因此,我更喜欢的类比是阿波罗计划。我们对重力有一个理论,对火箭工程学也有一个理论。我们知道为什么火箭不会爆炸,为什么它们会升空,以及它们需要飞多远。但在这里,我们没有类似的知识。我们不知道LLMs为什么有效,它们能变得多大,或者它们还需要走多远。然而,我们仍在不断扩大它们的规模,它们似乎正在逼近。它们会成功吗?也许会!


那么,你对于真实但未知的风险有什么偏好的态度呢?你是担心,还是无所谓?你更喜欢哪种思想实验?假设,尽管如此,你决定了厄运论者是正确的:你能做些什么呢?技术原则上是公开的。开源模型正在蓬勃发展。目前,LLMs需要大量昂贵的芯片(英伟达在上个财年销售了475亿美元,但仍无法满足需求),但在十年的观察期内,模型将变得更加高效,而芯片将无处不在。最终,你无法禁止数学。它无论如何都会发生。


但默认情况下,这股最新的激情将遵循AI的所有其他浪潮,并成为“只是”更多的软件和更多的自动化。自动化一直以来都会产生摩擦性的痛苦,回到卢德派。英国邮政的丑闻提醒我们,你并不需要AGI来毁掉人们的生活。LLMs会产生更多的痛苦和更多的丑闻,但生活会继续下去。至少,这是我比较喜欢的答案。


新闻来源:FT      作者:Benedict Evans 


编辑:Audrey


(声明:请读者严格遵守所在地法律法规,本文不代表任何投资建议)

本文来源:元宇宙头条 文章作者:元宇宙头条
收藏
举报
元宇宙头条
累计发布内容523篇 累计总热度10万+
523篇 10万+
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪

元宇宙头条现已开放专栏入驻,详情请见入驻指南: #

免责声明:
1、本文版权归原作者所有,仅代表作者本人观点,不代表元宇宙头条观点或立场。
2、如发现文章、图片等侵权行为,侵权责任将由作者本人承担。

评论 共0条
默认
|
点赞
说点什么吧
相关文章
您需要登录后才可以回帖 立即登录

元宇宙头条
个人认证
热门文章

下载APP

微信公众号