杨雄里院士:如何看待AI有可能全面超越人脑智能


据元透社3月1日报道,人脑智慧是至高无上的么?人工智能会超越人类智慧吗?

科学发展至今,是否有哪一门学科的所有奥秘已经全都“大白于天下”?

在不断变化和发展的当今世界,科学家和媒体该如何表述和解释科学?

今天,让我们一起聆听九三学社上海市委原副主委,中国科学院院士,复旦大学脑科学研究院教授、脑科学研究院学术委员会主任杨雄里的AI思辨

到现在为止,并不存在确凿的科学证据可以证明“人脑智慧是至高无上的”。考虑到人工智能的发展只有几十年历史,很难想象100年后会是什么状态。必须承认,人工智能在将来的某一天全面超越人脑智能的可能性是存在的。对这一点,需要有充分的思想准备,并采取必要的措施,以阻止人工智能负面影响的蔓延

说存在人工智能全面超越人类智慧的可能性,绝对不意味着这种可能性明天就会成为现实。人工智能领域的争论持续多年,在科学上,争论的哪一方都还不具备确凿的、足够的证据来证明各自的观点。而正是这样的争论促进了科学的发展。

一切事物都是运动、变化和发展的。面对人工智能的迅速崛起,人类社会必然要改变其思维定势,因势利导,从容应对。科学发展日新月异,必须尊重不断出现的新事实、尊重新的发现,秉持科学精神传递科学态度。

杨雄里院士近照

从撰写论文、迎战高考、挑战奥数金牌的大语言模型,到效果炸裂、颠覆行业的文生视频模型Sora,“无所不能”的人工智能(AI)不断刷新着人类对于智慧的认知,甚至让业内人士惊呼“AGI(通用人工智能)很快会实现”。尽管AI的涌现能力某种程度上还属于无法破译的“黑箱”,但这似乎并不妨碍它理解和模拟现实世界。

AI会超越人类吗?面对这样的“灵魂拷问”,中国科学院院士、中国脑科学计划的筹建者和推动者之一杨雄里日前在一次研讨会上的发言意味深长:“我曾认为人类智慧至高无上,如今人工智能的发展让我重新思考。”

这一颇有几分自我否定意味的再思考背后,经历了怎样的转折?这样的再思考带给我们怎样的启示?近日,《文汇报》记者独家专访杨雄里,就人脑与AI、科学与认知等话题展开了一场对话。

“最近一年来,有两件事对我触动很大,动摇了我长期以来的看法”

文汇报:作为一名资深神经科学家,也是中国脑计划的主要推动者之一,是什么样的因素促使您重新思考人脑智能与人工智能的关系?

杨雄里:首先,什么是智力?按照著名儿童心理学家皮亚杰的表述,智力就是“你在不知道该怎么办的时候所动用的东西”。1956年,美国计算机科学家麦卡锡首次提出“人工智能(AI)”的概念,他对人工智能的定义是:使机器表现出人所表现的智能行为

人工智能在其发展初期,并未引起人类社会很大关注,科学界的总体评价是正向的。但一些颇有远见的科学家很早就提出,人工智能可能会对人类社会产生负面影响。“控制论之父”维纳曾说:“未来的世界将是一场要求更高的斗争,以对抗我们智力的极限,而并非是一张舒适的软吊床,我们可以惬意地躺在那里,等候我们机器人奴仆的伺候。”能对人工智能作如此超前的预测,令人叹服。

随着这一领域研究的进一步推进,人工智能对社会的影响逐渐引起了人们的注意。1997年,IBM“深蓝”计算机战胜了国际象棋世界冠军卡斯帕罗夫,社会为之轰动。近20年后的2016年,AlphaGo大比分赢了围棋九段选手李世石,后又把整个围棋界打得人仰马翻,人工智能遂成为社会热点之一。由此,人们提出一个更深刻的问题:人工智能是否有可能在将来全面超过人类智能?

1997年,我在《文汇报》上发表科技评论《人类智慧是至高无上的》。2016年我又为《科技导报》撰写卷首语,最初的标题是“人类不必惊恐”。在相当长时间内,我对此问题的基本态度是:从一个根本的意义上说,人类的智慧是不可逾越的。

我之所以持这样的观点,有两个理由。一是恩格斯曾说过,“人类的思维按其本性、使命、可能和历史的终极目标来说,是至上的和无限的”。二是我无法想象人类所创造的闪烁着永恒光辉的文化宝库(文学、艺术作品),在未来的某一天将因人工智能的崛起而变得黯淡无光。

但是最近一年来,有两件事对我触动很大,动摇了我对这个问题的看法

一是去年为举办国际会议,我在手机上草拟了一份英文邀请信。落笔成稿之时,我的手指误触了一个按钮,眨眼间手机屏幕上出现了一份中文文稿,原来是我的英文邀请信译文,不仅翻译准确,而且用词精当。语言是人类特有的思想表达方式,而那个翻译软件竟使同声传译高手相形见绌,这使我震惊。

另一件事是,艺术通常被认为是人类独有的“最终圣殿”,但在这一领域,人工智能也开始挑战人类的地位。比如,加州大学圣克鲁斯分校音乐系教授科克编写了一个名为EM I的程序,一晚上能写出5000首巴赫风格的乐曲,乐迷们评价这些乐曲风格“比巴赫更巴赫”。

这些反映人工智能发展新态势的成果,使我不得不冷静地重新审视自己的观点。我逐渐领悟到,其实到现在为止,并不存在确凿的科学证据可以证明“人脑智慧是至高无上的”。

尽早思考AI与人类生态系统的相容,避免负面影响,是科学家的责任

文汇报:当您以科学家的身份提出“人类智慧是不可超越的吗”这一问题时,想强调的是什么?

杨雄里:我想强调的是,科学是不断发展的,原来以为不能被超越的,现在已经被超越了。考虑到人工智能的发展只有几十年历史,很难想象100年后会是什么状态。因此,我们必须承认,人工智能在将来的某一天全面超越人脑智能的可能性是存在的。对这一点,我们需要有充分的思想准备,并采取必要的措施,以阻止人工智能负面影响的蔓延。

当然,人类的智力也并非一成不变,它也将亦步亦趋,达到新的水平。而目前,对人脑智能、人工智能的讨论更多还是哲学层面上的。在科学上,争论的哪一方都还不具备确凿的、足够的证据来证明各自的观点。

需要指出的是,说存在人工智能全面超越人类智慧的可能性,绝对不意味着这种可能性明天就会成为现实。历史已经证明,科学技术的发展是一把双刃剑,在发展人工智能的同时,尽可能早地思考其与人类生态系统的相容,避免对社会的负面影响,这无疑是科学家的责任。

作为一门新兴学科,人工智能领域中争论的问题还有不少。其中持续较久、影响较广泛的是机器是否有思维、有意识?是否会涌现智慧?赞同者认为,如果机器被授予正确的程序输入,它即能实现思维的功能,就应该说机器是可以实现有意识的思维。除非你把思维定义为人类特有的精神过程,从而从根本上排斥机器思维的可能性。我本人属于赞同者一方。

不同的意见则认为,计算机对人类认知能力的模拟只是形式上的,而缺乏基本内涵。这两种观点的争论持续多年,至今没有消弭。而正是这样的争论促进了科学的发展。

科学发展至今,有哪一门学科的所有奥秘已经全都“大白于天下”?

文汇报:脑科学被称作是理解自然和人类本身的“终极疆域”,而今您认为这样的说法并不妥当。是AI的进化让您改变了看法,还是科学本身的发展更新了您的认知?

杨雄里:近年的文献和科普报告中,常把脑科学称为科学研究的“终极疆域”(last frontier),强调的是它的复杂性和重要性。现代神经科学奠基人、西班牙科学家卡哈尔曾说:“只要大脑的奥秘尚未大白于天下,宇宙将仍是一个谜。”这大概是把脑科学称作“终极疆域”的出处。我是较早在科普文章中作此引述的。

人的大脑有860亿个神经细胞,它们通过上千倍于此的突触组成复杂的神经环路,这种神经环路是脑实现功能的基本单元。而所有这些都处于动态变化之中,研究难度可想而知。特别需要强调的是,自然科学所有的门类中,唯有脑科学是通过大脑认识大脑本身。从这个意义上说,探索大脑的奥秘在所有自然科学领域中有其特殊性。

如果为了强调脑科学的重要性,把对脑的研究视作是自然科学研究的“终极疆域”也未尝不可。但对脑科学作此描述会造成一种误解:似乎其他科学的研究都会有一个终点,而只有对脑的研究才是一种终极的真理。细想一下,科学发展至今,有哪一门学科的所有奥秘已经全都“大白于天下”?

以物理学为例,19世纪末,科学家宣称物理学大厦已基本建成,然而20世纪初,这座经典物理学大厦轰然倒塌。量子理论的提出和狭义相对论的建立开启了现代物理学革命。而直到今天,物理学研究仍如火如荼地展开着。

因此,在自然科学研究中,根本就不存在所谓的“终极疆域”,或者说对任何领域均可谓之“终极疆域”。在每一历史阶段,我们所认识的都只是相对真理,人类只可能无限逼近绝对真理,不可能穷尽它。所以,从现在起,我就不再提脑科学是所谓的“终极疆域”

一切事物都是运动、变化和发展的。17世纪英国诗人弥尔顿(《失乐园》作者)说得好:“在《圣经》中,真理被比喻为一道潺潺流动的泉水。如果这泉水不永恒地流动,它就会腐化成一团顺从和因袭的泥潭。”

我在脑科学和人工智能问题上观点的变化,反映了科学的发展为我的思维打开了新的思路。恩格斯曾指出:“随着自然科学领域中每一个划时代的发现,唯物主义也必然要改变自己的形式。”面对人工智能的迅速崛起,人类社会必然要改变其思维定势,因势利导,从容应对。

以开放的心态面对善意的批评,有足够的勇气纠正认识的谬误

文汇报:当今科学发展如此之快,有时一篇论文刚刚发表、一个结论得出不久,就会有不同的声音,甚至相反的结果公布出来,这让公众有些茫然:科学还可信吗?在这样的语境之下,科学家和媒体该如何表述和解释科学?

杨雄里:这是一个很值得思考的问题。原有的科学结论被推翻(撇开学术不端不谈),一个原因可能是实验结果不能重复,这在生命科学领域较为常见。自然现象是复杂的,如果实验条件不一样,实验所揭示的可能是客观现象各个不同的侧面。阿尔茨海默症的病因复杂迷离,可能就与此有关。不同的环境条件、不同的生理状态,所得结果出现很大变异并不奇怪。此外,将在动物模型上得到的结果拓展至人体时也要分外谨慎,一不小心就会出错。

更重要的是,对于自然现象的认识,不可能一蹴而就。在某一历史阶段所取得的认识受到时代局限性、技术局限性、个人能力局限性的制约。因此,面对公众,科学家和媒体既要客观、全面地描述科学现象及科学规律,同时也要指出认识的局限性、片面性,如何在两者之间找到平衡点是一门学问。

科学家既应该对自己的研究结果有充分自信,同时又要以开放的心态面对善意的批评,并有足够的勇气纠正自己认识的谬误。科学发展日新月异,我们所熟悉的领域很快就会被新的知识的浪潮所淹没。我们必须尊重不断出现的新事实、尊重新的发现,从善如流,不断进步。这是科学家应秉持的科学精神,也是媒体需要传递的科学态度。

来源:元透社

编辑:瓷瓷

(声明:请读者严格遵守所在地法律法规,本文不代表任何投资建议)

本文来源:元宇宙头条 文章作者:元宇宙头条
收藏
举报
元宇宙头条
累计发布内容523篇 累计总热度10万+
523篇 10万+
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪
FTX 后院起火,Binance 釜底抽薪

元宇宙头条现已开放专栏入驻,详情请见入驻指南: #

免责声明:
1、本文版权归原作者所有,仅代表作者本人观点,不代表元宇宙头条观点或立场。
2、如发现文章、图片等侵权行为,侵权责任将由作者本人承担。

评论 共0条
默认
|
点赞
说点什么吧
相关文章
您需要登录后才可以回帖 立即登录

元宇宙头条
个人认证

下载APP

微信公众号