《人工智能的邊界》
作者：張軍平
版本：湖南科學(xué)技術(shù)出版社
2025年7月
人工智能的設(shè)計(jì)主體還是人類
在第三次人工智能熱潮里，人工智能似乎已經(jīng)無處不在，各行各業(yè)都在嘗試用人工智能來替代某些傳統(tǒng)元素，從而獲得新質(zhì)生產(chǎn)力。人工智能似乎無所不能，能聽、能看、能說、能唱、能決策、能控制。但它是否能完全取代人類呢？
這可以從三個層面來剖析：（1）人工智能可以部分取代人類完成的工作；（2）人工智能能否完成人類所有的工作；（3）人工智能能否像人腦一樣完成這些工作。
對于第一個問題，答案顯然是肯定的。本書的內(nèi)容正是在介紹這場正在發(fā)生的AI變革。對于后兩個問題，答案卻是否定的。這可以從五個主要層面來分析，包括人對自身的了解、人類的努力、人與自然進(jìn)化的比較、對任務(wù)的形式化，以及耗能情況。
人能否完全了解自己呢？我們不妨想象一只只能在二維平面上行走的螞蟻。如果這個二維平面實(shí)際上是一個莫比烏斯環(huán)（舉例來說，將一個紙條一端扭轉(zhuǎn)180度后再和另一端粘起來，即可形成莫比烏斯環(huán)），螞蟻又無法垂直于這個環(huán)走到環(huán)的邊界，或者環(huán)的兩側(cè)邊界在螞蟻的認(rèn)知中是無限的。那么，如果螞蟻沿著莫比烏斯環(huán)一直向前爬，它會不知不覺地爬到環(huán)的背面，再爬回正面。當(dāng)莫比烏斯環(huán)上缺乏任何可辨識位置的信息時，對螞蟻而言，這個世界可能是沒有盡頭的，因?yàn)樗鼪]有辦法脫離這個環(huán)來了解這個世界。但如果有一個高一維（即三維）的生物在觀察螞蟻，那個生物就會很清楚，螞蟻其實(shí)生活在一個陷入死循環(huán)的特殊幾何結(jié)構(gòu)的世界里。
《我，機(jī)器人》（2004）劇照。
人類想完全了解自己，其中的原理與生活在莫比烏斯環(huán)上的螞蟻類似。如果缺乏跳出這個環(huán)的能力，人類是無法完全了解自己的。就像孫悟空縱然能一個筋斗翻十萬八千里，在五指山撒泡尿以證明到此一游，卻最終還是沒逃脫如來佛的手掌一樣。既然自身都無法完全明了，如何讓以人類為模仿主體的人工智能更了解人類呢？就更不用說要完全取代人類，形成與人類一樣功能的強(qiáng)人工智能了，畢竟人工智能的設(shè)計(jì)主體還是人類。
再者，人工智能熱潮中集聚了全世界最聰明的科學(xué)家，他們在為通用人工智能（AGI）努力奮斗著。然而，這并不意味著其他領(lǐng)域或者以前的科學(xué)家就不聰明。在人類文明史上，每一項(xiàng)技術(shù)的突破都凝聚著同樣聰明的科學(xué)家的智慧和努力。
目前的人工智能研究，可以用飛機(jī)與鳥來比擬。像鳥類一樣飛行，一直是沒有翅膀的人類的夢想之一。在14世紀(jì)末期，傳說我國明朝的士大夫萬戶就曾將自制的火箭綁在椅子上。他兩手各舉一只大風(fēng)箏，坐在椅子上（也有說法是他坐在一只仿制的飛鳥上），希望等火箭將他帶上天后，可以用風(fēng)箏滑翔著地。但當(dāng)火箭點(diǎn)燃后，很不幸發(fā)生了爆炸，他成了犧牲者。他因是“第一個試圖利用火箭飛行的人”而被世人銘記。
《我，機(jī)器人》（2004）劇照。
真正有意義的飛行始于1903年，萊特兄弟發(fā)明了飛機(jī)。自此以后，人類研發(fā)的飛機(jī)越飛越遠(yuǎn)、越飛越高，載客量也越來越大。但是，時間過了120多年，全世界那么多聰明人為飛機(jī)的設(shè)計(jì)做出過貢獻(xiàn)，但至今尚未出現(xiàn)能夠像真鳥一般飛行的仿生鳥。我們也還沒仿制出如瓢蟲或隱翅蟲一般能效極高、想象力極豐富的飛行翅膀。人工智能的發(fā)展過程與此有著相似之處。當(dāng)今人工智能在性能上的大突破，主要是歸功于將不少人工智能任務(wù)聚焦于與鳥的飛行類似的單一指標(biāo)上，即轉(zhuǎn)化成預(yù)測任務(wù)或大模型里等同于預(yù)測的自回歸來求解，而其他智能元素在現(xiàn)階段或多或少被忽略了。這導(dǎo)致人工智能實(shí)現(xiàn)出來的智能，與人類的智能有著顯著的不同。這也提醒我們，需要有清醒的認(rèn)識，即使投入了最聰明的科學(xué)家，也很可能會與研制飛機(jī)一樣，雖然在模仿人類智能的某些方面取得巨大突破，但要模仿出像人一樣的智能體，還為時尚早。
算法更多是從信息處理的角度模擬人腦的功能
為什么會如此呢？不妨看看自然界的進(jìn)化歷程。生命在地球上已存在約38億年，而現(xiàn)代人類——智人的出現(xiàn)時間不過30萬年。如果把生命的時間濃縮成一年，則人類文明的時間相當(dāng)于8分鐘多一點(diǎn)。雖然人類利用這點(diǎn)時間成了地球的絕對主宰，制造了大量的工具和建筑物，但和自然進(jìn)化的生命相比，這些工具和建筑物在細(xì)節(jié)上仍然很粗糙，所謂慢工出細(xì)活。就拿吸管或針來說，雖然人類能做出尖銳的、中空的針，但在顯微鏡下觀察，其結(jié)構(gòu)仍然顯得過于簡單。相比之下，蚊子的“吸管”（口器）里藏著六根針，其中兩根像刀片，兩根像鋸子，它們通過相互配合來割開皮膚，另外兩根針里的唾液管負(fù)責(zé)吐出具有麻醉作用的唾液，而食管則負(fù)責(zé)吸血。其實(shí)也不止蚊子的口器如此復(fù)雜，仔細(xì)觀察就會發(fā)現(xiàn)毒蛇的尖牙、蜘蛛的尖牙、蝎子的尾針等都有著更為復(fù)雜的顯微圖像。而噬菌體的結(jié)構(gòu)，類似登月艙，不禁讓人驚嘆生命進(jìn)化的精妙設(shè)計(jì)。
自然進(jìn)化的生命還有一個人類至今也未能成功模仿的特點(diǎn)，那就是基因的按時表達(dá)能力。如果我們把雙螺旋結(jié)構(gòu)的基因看成是一段程序，這段程序里包含了我們大部分已解碼成功的外顯子和部分已經(jīng)解讀但還有很多未知內(nèi)容的內(nèi)含子。外顯子和內(nèi)含子的共同作用決定了人類的成長。這段程序比人類目前能編制的任何程序都要精妙。它發(fā)展出的很多功能像是裝了定時器一般能夠按時表達(dá)，但卻沒有無限制地延長自己的代碼長度。
相比之下，人類編制的代碼還只能針對特定任務(wù)，來一個新任務(wù)還得重新編程。雖然大模型的“預(yù)訓(xùn)練+微調(diào)”的做法不需要對算法進(jìn)行大的改動，但調(diào)參依然是一項(xiàng)艱巨的任務(wù)，且只能處理類似的科學(xué)問題。
另外，我們設(shè)計(jì)的軟件（算法）和硬件能否替代人腦？從算法層面看，目前主流的深度學(xué)習(xí)和生成式人工智能并未采用與人腦類似的形式。比如目前用于優(yōu)化深度模型必備的反向傳播算法或其變形體，并沒有證據(jù)表明人類的大腦使用類似的機(jī)制進(jìn)行推理和計(jì)算等。相反，這些算法更多的是從信息處理的角度模擬人腦的功能。
另一個被認(rèn)為有希望模仿大腦的模型是脈沖神經(jīng)網(wǎng)絡(luò)。它模擬了生物神經(jīng)系統(tǒng)中信號的傳播方式，通過在突觸間交換“神經(jīng)遞質(zhì)”來傳播脈沖信號。其主要的優(yōu)勢是耗能低、可塑性強(qiáng)，但目前表現(xiàn)出的性能還無法與深度學(xué)習(xí)這一主流技術(shù)媲美，甚至不得不通過借鑒深度學(xué)習(xí)的思路、背離其生物啟發(fā)的初衷來增強(qiáng)其性能。而硬件模仿方面，雖然能見到號稱與人腦神經(jīng)元數(shù)量相仿的數(shù)字大腦的報(bào)道，但數(shù)字大腦要擁有與人腦相同的功能還言之過早。綜合來看，要形成與自然進(jìn)化媲美的智能體，人類還有相當(dāng)長的路要走。
《我，機(jī)器人》（2004）劇照。
除此之外，要想讓人工智能能夠替代一切工作，我們還需要解決將問題形式化的任務(wù)。但正如20世紀(jì)80年代提出的莫拉維克悖論所言：“人類覺得簡單的，機(jī)器覺得復(fù)雜；人覺得復(fù)雜的，機(jī)器覺得簡單?！睆哪撤N意義上來說，它表明還有相當(dāng)一部分的工作無法形式化，也意味著人工智能不可能完成所有人類的工作。
另外，耗能問題也是亟待解決的問題。現(xiàn)在人工智能的性能突破，非常依賴散播在世界各地的顯卡或GPU集群。它對電量的依賴，正快速逼近甚至超過人類在某地區(qū)可提供的最大電力負(fù)荷。反觀人類，一天消耗的能量遠(yuǎn)低于人工智能在顯卡時代的需求，卻也能自如地進(jìn)行快思維和慢思維，做著人工智能覺得困難的因果推斷。
更何況，人工智能是人類設(shè)計(jì)的。而人類至今也沒有弄明白人類最為緊要的意識從何而來。雖然能見到的關(guān)于意識的書籍已經(jīng)不少，但還沒有哪一本被公認(rèn)是完全正確的。
而人工智能如果要取代人類，那么意識的問題是必須弄明白的。但這個問題也許永遠(yuǎn)沒有答案。而人工智能，在沒有解決這些問題之前，也許只能是一臺沒有靈魂的機(jī)器。然而，我們還是要保持警醒，如果不發(fā)揮人的能動性，不持續(xù)學(xué)習(xí)，假如真有一天人工智能全方位替代了人類的工作，人類很有可能不會因此變得更聰明，反而有可能會因?yàn)檫^分依賴人工智能而變得更低能。
本文選自《人工智能的邊界》，已獲得出版社授權(quán)刊發(fā)。
原文作者/張軍平（復(fù)旦大學(xué)計(jì)算與智能創(chuàng)新學(xué)院教授）
摘編/何也
編輯/張進(jìn)
導(dǎo)語校對/趙琳
