近年來(lái)，伴隨著AI大模型的顯著技術(shù)進(jìn)步，新一代人工智能成果倍出，如人工智能對(duì)話系統(tǒng)ChatGPT、文生視頻軟件Sora、文生音樂(lè)軟件Suno等AI新應(yīng)用不斷給大家?guī)?lái)驚喜，在沖擊人們眼球和大腦的同時(shí)，也正在深刻影響著社會(huì)的千行百業(yè)。

1.新一代人工智能的巨大進(jìn)步和問(wèn)題

2023年初，[敏感詞]Open AI公司推出了基于大規(guī)模深層神經(jīng)網(wǎng)絡(luò)、通過(guò)人工反饋的強(qiáng)化學(xué)習(xí)和人工提示的預(yù)訓(xùn)練生成式人工智能對(duì)話系統(tǒng)ChatGPT，隨后又推出了它的更新版本GPT-4。

2023年底，Google推出的Gemini系統(tǒng)，性能表現(xiàn)也與GPT-4各有千秋。2024年推出的SORA，則可根據(jù)用戶提供的簡(jiǎn)單文本生成極為酷炫的短視頻；Anthropic研制成功的Claude 3更是全面超越了GPT-4。

有些人發(fā)出感慨，認(rèn)為“硅基生命超越碳基生命的日子為期不遠(yuǎn)了”，甚至還有人提出了荒唐的建議：面對(duì)人工智能的發(fā)展，人類要么設(shè)法逃離地球，要么就得學(xué)會(huì)臣服機(jī)器。

也有不少頭腦清醒的人對(duì)此持有不同看法。他們認(rèn)為，當(dāng)前GPT產(chǎn)品還存在很多問(wèn)題，“一本正經(jīng)地說(shuō)胡話”就是其中一個(gè)特別突出的例子。眾所周知，理解能力是智能的前提。沒(méi)有理解能力，不識(shí)真?zhèn)魏么酰趺茨芩闶恰坝辛苏嬲闹悄堋保?/span>！GPT“一本正經(jīng)地講胡話”，說(shuō)明它沒(méi)有理解能力，本身意味著巨大風(fēng)險(xiǎn)，因?yàn)椤昂挕笨赡馨延脩粢藉e(cuò)誤方向。實(shí)際上，GPT有意回避了“內(nèi)容理解”難題，轉(zhuǎn)而借助同樣也是基于樣本形式特征的“統(tǒng)計(jì)方法”來(lái)生成語(yǔ)句和選擇對(duì)話的“候選答案”。這種缺乏理解能力的GPT離真正的人工智能還相差甚遠(yuǎn)，更談不上“全面超人”。

2.部分業(yè)內(nèi)專家的質(zhì)疑和批評(píng)

不少國(guó)內(nèi)外的專家、院士、學(xué)者，在肯定ChatGPT、Gemini等AI大模型系統(tǒng)的巨大進(jìn)步的同時(shí)，也提出了質(zhì)疑和反對(duì)意見(jiàn)。

2024年8月1日，中國(guó)科學(xué)院院士、清華大學(xué)人工智能研究院名譽(yù)院長(zhǎng)張鈸在ISC.AI 2024第十二屆互聯(lián)網(wǎng)安全大會(huì)的演講上表示，當(dāng)前人工智能還沒(méi)有理論，只有發(fā)展出來(lái)針對(duì)的模型和算法，它們都是針對(duì)特定領(lǐng)域的，軟件或硬件也都是專用的，市場(chǎng)很小，因此到現(xiàn)在為止還沒(méi)有發(fā)展出一個(gè)大型的人工智能產(chǎn)業(yè)，問(wèn)題就出在這里。

張鈸院士還指出，盡管深度學(xué)習(xí)在多個(gè)領(lǐng)域取得了顯著成就，但是仍然有不少局限性，包括對(duì)大量標(biāo)注數(shù)據(jù)的依賴、模型的可解釋性差以及容易受到對(duì)抗性攻擊的影響。他提出，未來(lái)的改進(jìn)方向應(yīng)包括開(kāi)發(fā)更高效的學(xué)習(xí)算法、增強(qiáng)模型的泛化能力、提高模型的可解釋性，并探索更符合人類認(rèn)知機(jī)制的智能系統(tǒng)。

中國(guó)科學(xué)院院士、北京大學(xué)教授鄂維南，在2024年6月26日中國(guó)科學(xué)院第二十一次院士大會(huì)期間，旗幟鮮明地表示，當(dāng)前人工智能的技術(shù)路線是不可持續(xù)的，要想找到能使我國(guó)人工智能長(zhǎng)期穩(wěn)定發(fā)展的技術(shù)路線，必須探索人工智能的基本原理。

在2024年5月20日舉辦的搜狐科技年度論壇上，中國(guó)工程院院士鄔江興指出：“他們團(tuán)隊(duì)對(duì)當(dāng)前[敏感詞]的10種大模型進(jìn)行安全分析發(fā)現(xiàn)，90%以上的主流大模型是不可信的，而采用內(nèi)生安全構(gòu)造的問(wèn)題，相比單一安全具有顯著優(yōu)勢(shì)，達(dá)到了幾個(gè)數(shù)量級(jí)的提升。”

鄔江興指出，深度學(xué)習(xí)模型存在“三不可”基因缺陷。分別是：

第一，不可解釋性，從數(shù)據(jù)提供AI模型訓(xùn)練到知識(shí)規(guī)律，到獲得應(yīng)用推理階段，工作原理到現(xiàn)在不明確，問(wèn)題發(fā)現(xiàn)定位非常困難，AI系統(tǒng)中的安全問(wèn)題比破解密碼還要難。

第二，不可判識(shí)性，因?yàn)?/span>AI對(duì)序列性強(qiáng)依賴，不具備對(duì)內(nèi)容的判識(shí)能力，所以數(shù)據(jù)存在質(zhì)量差異，來(lái)源差異，就可能導(dǎo)致訓(xùn)練出的結(jié)果有差異。

第三，不可推論性，AI的推理是從已知數(shù)據(jù)中獲得規(guī)律性，難以勝任對(duì)中長(zhǎng)期未來(lái)事物變遷的預(yù)測(cè)和推理，只是把現(xiàn)有的東西歸納起來(lái)，看起來(lái)它聰明無(wú)比，但僅僅是比我看得多，并沒(méi)有產(chǎn)生什么新的認(rèn)知。

Meta人工智能首席科學(xué)家楊立昆（Yann LeCun）認(rèn)為，當(dāng)前的LLM（大語(yǔ)言模型）技術(shù)存在“理解邏輯能力極其有限”、“無(wú)法對(duì)物理世界建模”、“無(wú)法形成持久記憶”、“無(wú)法進(jìn)行層級(jí)規(guī)劃推理”等重大缺陷，并稱單純追求推進(jìn)LLM的發(fā)展“本質(zhì)是上不安全”的，無(wú)法實(shí)現(xiàn)真正的AGI（通用人工智能）。

楊立昆指出，現(xiàn)有的LLM盡管在自然語(yǔ)言處理、對(duì)話交互、文本創(chuàng)作等領(lǐng)域表現(xiàn)出色，但其仍只是一種“統(tǒng)計(jì)建模”技術(shù)，通過(guò)學(xué)習(xí)數(shù)據(jù)中的統(tǒng)計(jì)規(guī)律來(lái)完成相關(guān)任務(wù)，本質(zhì)上并非具備真正的“理解”和“推理”能力。結(jié)論是：目前的LLM路線無(wú)法通往AGI，且非常危險(xiǎn)，顯示出業(yè)界對(duì)AI發(fā)展路線圖的分歧。

同濟(jì)校長(zhǎng)鄭慶華認(rèn)為，大模型已經(jīng)成為當(dāng)前人工智能的[敏感詞]，大模型之所以強(qiáng)，是依托了大數(shù)據(jù)、大算力和強(qiáng)算法，但是也面臨著四大固有缺陷：

缺陷一是過(guò)度消耗數(shù)據(jù)和算力。大模型的參數(shù)量已達(dá)到萬(wàn)億級(jí)別，訓(xùn)練數(shù)據(jù)規(guī)模和算力消耗與參數(shù)規(guī)模成正比。

缺陷二是災(zāi)難性遺忘。在新任務(wù)上訓(xùn)練會(huì)損害之前任務(wù)的性能；在問(wèn)題求解階段，無(wú)法記住處理過(guò)的數(shù)據(jù)或場(chǎng)景，比如在無(wú)人駕駛中，人腦對(duì)路況有記憶，但自動(dòng)駕駛每次都要重新計(jì)算，并為此消耗了大量能量。

缺陷三是黑盒模型邏輯推理能力弱，大模型缺乏“分而治之”能力，在處理需要邏輯、數(shù)值推理等復(fù)雜問(wèn)題時(shí)表現(xiàn)不佳，無(wú)法舉一反三、觸類旁通。

缺陷四是大模型不知道自己錯(cuò)了，也不知道為啥錯(cuò)，更做不到知錯(cuò)就改。以GPT4求解算術(shù)運(yùn)算題的實(shí)例為例，對(duì)于在1381和1453之間選兩個(gè)隨機(jī)數(shù)相乘的結(jié)果給出了錯(cuò)誤答案，被指出錯(cuò)誤后，無(wú)法定位是語(yǔ)料，還是訓(xùn)練等原因，更無(wú)從修正。

中國(guó)科學(xué)院院士陳潤(rùn)生在接受媒體采訪時(shí)，談及過(guò)他對(duì)國(guó)產(chǎn)大模型的看法。他認(rèn)為，好的大模型要真正解決實(shí)際問(wèn)題，并具有足夠的準(zhǔn)確度和效率。中國(guó)現(xiàn)在有上百個(gè)大模型，其中的90%沒(méi)多大用處，只會(huì)加劇資源和人力的浪費(fèi)，應(yīng)該被淘汰。

原工信部副部長(zhǎng)楊學(xué)山教授在2019年3月21日的人工智能春季創(chuàng)新大會(huì)上提到一個(gè)統(tǒng)計(jì)數(shù)據(jù)和一個(gè)重要觀點(diǎn)，麻省理工近日對(duì)16625篇人工智能的論文進(jìn)行了分析總結(jié)，得出結(jié)論是：近26年來(lái)人工智能領(lǐng)域并沒(méi)有出現(xiàn)新技術(shù)。他認(rèn)為，人工智能到今天為止還沒(méi)有理論基礎(chǔ)，沒(méi)有形成類似經(jīng)典物理學(xué)的“牛頓定律”式的理論，人工智能的理論仍處于“前牛頓時(shí)期”。

楊學(xué)山在其所著《智能原理》前言中指出：智能成熟度不是以使用什么算法和邏輯決定的。更進(jìn)一步，人在進(jìn)化和發(fā)展中形成這樣的本能或直覺(jué)，也沒(méi)有經(jīng)過(guò)邏輯或算法的過(guò)程。（編者注：真正的智能無(wú)需計(jì)算。通過(guò)暴力計(jì)算出來(lái)的結(jié)果，也不是真正的智能）

楊學(xué)山在《智能原理》P79指出：2017年，又有一些科學(xué)家預(yù)測(cè)到2136年，人工智能可以承擔(dān)所有人的工作，這樣的可能性是存在的，但前提是對(duì)一系列重大理論和方向問(wèn)題要有答案。工業(yè)革命基于物理學(xué)的大發(fā)現(xiàn)，智能革命的理論尚未建立，任何樂(lè)觀的預(yù)言都缺乏理論基礎(chǔ)。

楊學(xué)山在《智能原理》P085指出：不僅指導(dǎo)人工智能走向未來(lái)的理論尚未建立，最佳實(shí)踐也沒(méi)有達(dá)到，這是有人憂慮人工智能進(jìn)入再一個(gè)冬天的原因。…還有人指出，人工智能的神經(jīng)網(wǎng)絡(luò)研究進(jìn)展，并沒(méi)有跟上認(rèn)知神經(jīng)科學(xué)[敏感詞]研究的成功，深度學(xué)習(xí)的算法與人腦的工作機(jī)制幾乎沒(méi)有共同之處。

楊學(xué)山在《智能原理》P092指出：但是人工智能的理論研究與具體的非生物智能應(yīng)用成果之間存在一條不協(xié)調(diào)的溝壑。

楊學(xué)山在其另一本專著《智能工程》P005指出：智能和通用人工智能沒(méi)有[敏感詞]的定義，常識(shí)和理解這兩個(gè)通用人工智能的必要條件也成為可望而不可即的空中樓閣。…與此相伴的是人工智能界對(duì)算法、算力和具有算法能力的人的崇拜，認(rèn)為具備這三者就一定能構(gòu)造通用人工智能，這是一個(gè)基本認(rèn)識(shí)論的錯(cuò)誤。

楊學(xué)山在《智能工程》P205指出：通過(guò)數(shù)據(jù)挖掘就能得到知識(shí)和智慧更是一廂情愿，因?yàn)橹R(shí)和智慧的形成根本不是通過(guò)數(shù)據(jù)挖掘這種模式就能夠獲得的。我們通過(guò)大數(shù)據(jù)及利用一些計(jì)算工具和算法得到的一些有趣或有效的結(jié)論，這種局部想象泛化為知識(shí)和智慧的來(lái)源，是科學(xué)方法的不嚴(yán)謹(jǐn)。

中國(guó)人工智能學(xué)會(huì)原理事長(zhǎng)鐘義信教授認(rèn)為：在物質(zhì)學(xué)科范式引領(lǐng)下的人工智能研究，雖然在技術(shù)層次上不斷取得一些淺層和局部的進(jìn)展，但始終沒(méi)有在基礎(chǔ)理論的研究上實(shí)施必要的變革，因此始終無(wú)法根治物質(zhì)學(xué)科范式給人工智能研究帶來(lái)的致命性缺陷：

第一，受到“分而治之”方法論的制約，三大學(xué)派各奉所信，各行其是，分道揚(yáng)鑣，無(wú)法建立統(tǒng)一的人工智能理論，也無(wú)法研制出通用的人工智能系統(tǒng)。

第二，受到“唯形式化”方法論的制約，人工智能所有概念都被閹割了內(nèi)涵，成為了難以理解的“無(wú)心概念”。因此，所有人工智能產(chǎn)品（當(dāng)然包括GPT系列）都無(wú)法實(shí)現(xiàn)對(duì)概念的理解，無(wú)法生成基于理解的真實(shí)智能。

3.當(dāng)今AI大模型需要做哪些重大改進(jìn)

如前所述，當(dāng)今的AI大模型盡管目前看起來(lái)“很成功”，但是確實(shí)是沒(méi)有發(fā)展后勁的，其成果是不可持續(xù)的。

上述質(zhì)疑者和批評(píng)者的共性意見(jiàn)摘錄如下：

• *“當(dāng)前人工智能還沒(méi)有理論指導(dǎo)”；“指導(dǎo)人工智能走向未來(lái)的理論尚未建立”；“人工智能到今天為止還沒(méi)有理論基礎(chǔ)”；“人工智能所有概念都被閹割了內(nèi)涵”；“智能革命的理論尚未建立，任何樂(lè)觀的預(yù)言都缺乏理論基礎(chǔ)”；

• *“理解邏輯能力極其有限”；“不可解釋，不可判識(shí)，不可推論”；“本質(zhì)上并非具備真正的‘理解’和‘推理’能力”；“大模型不知道自己錯(cuò)了，也不知道為啥錯(cuò)，更做不到知錯(cuò)就改”；“無(wú)法生成基于理解的真實(shí)智能”；

• *“當(dāng)前人工智能的技術(shù)路線是不可持續(xù)的”；。

• *“算法、算力和具有算法能力的人，這三者不可能構(gòu)造AGI”；“目前的LLM路線無(wú)法通往AGI”；

• *“90%以上的主流大模型是不可信的”；“中國(guó)現(xiàn)在有上百個(gè)大模型，其中的90%沒(méi)多大用處”。

從上面的專家觀點(diǎn)可以看到，目前還不能對(duì)當(dāng)今AI大模型取得的巨大成果過(guò)于樂(lè)觀，客觀上AI大模型還存在諸多弊病和偏差。如果上述專家們所言屬實(shí)，那么用不了兩三年，很多現(xiàn)有AI大模型在技術(shù)上是走不下去的，甚至是沒(méi)有未來(lái)的。

4.正本清源：將錯(cuò)配的學(xué)科范式糾正過(guò)來(lái)

現(xiàn)有人工智能缺乏理論基礎(chǔ)，是諸多專家詬病最多的一個(gè)問(wèn)題。人類幾百年的近代科學(xué)史證明，缺乏理論的科研，一定走不遠(yuǎn)。

那么，該怎么辦？

當(dāng)今人工智能在技術(shù)取得長(zhǎng)足進(jìn)步、市場(chǎng)一片喧囂之后，是時(shí)候該放慢腳步，換個(gè)思路，思考一下人工智能的理論基礎(chǔ)了，即研究人工智能的學(xué)科范式問(wèn)題。

鐘義信教授的見(jiàn)解是：作為信息學(xué)科高級(jí)篇章的人工智能研究，一直遵循著經(jīng)典的物質(zhì)學(xué)科范式的“唯形式化”和“分而治之”的方法論，這不符合信息學(xué)科性質(zhì)的需要，屬于學(xué)科范式的“錯(cuò)配”。應(yīng)該用全新的信息學(xué)科范式來(lái)研究今天的人工智能，用中華文明中的“整體觀和辯證論”的思想去重新思考人工智能的基本問(wèn)題。

物質(zhì)學(xué)科只研究物質(zhì)。信息學(xué)科則不僅研究物質(zhì)，更要研究主體（編者注：只有主體才有智能），尤其要研究主體駕馭下的主體客體相互作用的信息生態(tài)過(guò)程。信息學(xué)科的迅猛崛起是時(shí)代進(jìn)步的需要。物質(zhì)學(xué)科研究主導(dǎo)的科學(xué)時(shí)代一定要向信息學(xué)科研究主導(dǎo)的科學(xué)時(shí)代迅速轉(zhuǎn)變，才能適應(yīng)時(shí)代進(jìn)步和科學(xué)發(fā)展的要求。

信息學(xué)科范式在人工智能領(lǐng)域取代物質(zhì)學(xué)科范式，并不表明物質(zhì)學(xué)科范式本身存在什么問(wèn)題，只是表明學(xué)科范式與學(xué)科研究的性質(zhì)之間必須和諧匹配，而不應(yīng)當(dāng)錯(cuò)位，不應(yīng)當(dāng)張冠李戴：人工智能是信息學(xué)科的高級(jí)篇章，因此應(yīng)當(dāng)遵循信息學(xué)科范式；而物質(zhì)學(xué)科的研究則應(yīng)當(dāng)遵循物質(zhì)學(xué)科的范式。各種范式都按照學(xué)科的性質(zhì)各就其位，各得其所，各司其職，各領(lǐng)風(fēng)騷，協(xié)調(diào)發(fā)展，共創(chuàng)輝煌。

免責(zé)聲明：本文采摘自英諾維盛公司，本文僅代表作者個(gè)人觀點(diǎn)，不代表金航標(biāo)及行業(yè)觀點(diǎn)，只為轉(zhuǎn)載與分享，支持保護(hù)知識(shí)產(chǎn)權(quán)，轉(zhuǎn)載請(qǐng)注明原出處及作者，如有侵權(quán)請(qǐng)聯(lián)系我們刪除。