現(xiàn)在的ChatGPT還很弱小，但我們應(yīng)該對(duì)它有所防備
文 | 劉建中
ChatGPT的出現(xiàn)讓人興奮，同時(shí)也讓人深深不安。
興奮的原因眾所周知，它能在未來(lái)開(kāi)啟無(wú)限可能：它能提高生產(chǎn)效率，提供生活便利，輔助學(xué)習(xí)，升級(jí)科學(xué)探索方式。
ChatGPT（Chat Generative Pre-trained Transformer）是人工智能公司OpenAI開(kāi)發(fā)的自然語(yǔ)言處理工具，被視為未來(lái)主流的AI應(yīng)用之一，下文用ChatGPT來(lái)指代這一應(yīng)用。
變革總會(huì)帶來(lái)不安，有人擔(dān)心ChatGPT會(huì)讓人類變笨。他們認(rèn)為如果把很多腦力勞動(dòng)交給ChatGPT，我們就失去了寶貴的思維訓(xùn)練機(jī)會(huì)。但這種擔(dān)心很可能多余。人類發(fā)明了汽車，但我們的腿部肌肉并沒(méi)有過(guò)度萎縮。計(jì)算機(jī)也能解放很多腦力勞動(dòng)，但普及多年之后，人類并沒(méi)有整體變笨。放棄了腦力勞動(dòng)不等于放棄思考，我們可以去做腦力游戲，或者思考更有趣、更高級(jí)的內(nèi)容。
ChatGPT的確會(huì)導(dǎo)致某些職業(yè)消失，導(dǎo)致某些人失業(yè)?？萍歼M(jìn)步往往帶來(lái)失業(yè)，但科技進(jìn)步也會(huì)創(chuàng)造新的職業(yè)。在新舊交替的過(guò)程中，部分失業(yè)者會(huì)經(jīng)歷痛苦，但只要社會(huì)保障體制健全，還不至于出現(xiàn)悲慘的景象，也不會(huì)釀成重大悲劇。
但是，ChatGPT有些不同于以往科技創(chuàng)新的特征。這些特征讓人感到深深的不安。
ChatGPT的努力方向是理解人類的語(yǔ)言之后，用符合環(huán)境的恰當(dāng)語(yǔ)言為人類提供有效信息?，F(xiàn)在它的智商還不高，它還搞不清很多語(yǔ)言里面的潛臺(tái)詞。但類似于摩爾定律，ChatGPT的智商會(huì)指數(shù)增長(zhǎng)。
語(yǔ)言不是隨機(jī)的，而是有模式的。用不了多久，ChatGPT就能理解哪些語(yǔ)言是夸張，哪些是謊言，就知道語(yǔ)言發(fā)生的環(huán)境很重要。它會(huì)知道小紅書(shū)上精致的人設(shè)并不代表生活的真相，也會(huì)知道整天說(shuō)自己忙碌的人未必忙碌，到處秀恩愛(ài)的人未必婚姻幸福。
當(dāng)它真正理解了人類的語(yǔ)言，學(xué)會(huì)了分辨真?zhèn)?，識(shí)別了語(yǔ)言背后的人類意識(shí)，它就成長(zhǎng)成一頭怪獸。
假以時(shí)日，它的存在會(huì)讓人類感到威脅。
它比人類更了解人類
科學(xué)探索的目的是發(fā)現(xiàn)知識(shí)，也就是發(fā)現(xiàn)客觀事實(shí)、客觀規(guī)律。圖靈獎(jiǎng)獲得者Jim Gary用“四種范式”描述了科學(xué)發(fā)現(xiàn)的歷史演變。
第一范式被稱為“經(jīng)驗(yàn)范式”，它起源于幾千年前，基于對(duì)自然現(xiàn)象的直接觀察。比如，當(dāng)時(shí)認(rèn)為太陽(yáng)繞著地球轉(zhuǎn)。
第二范式被稱為“理論范式”，它探尋理論模型，例如牛頓運(yùn)動(dòng)定律、愛(ài)因斯坦的相對(duì)論。第二范式往往用一個(gè)或多個(gè)表達(dá)式描述理論，但在很多條件下無(wú)法求解。比如，結(jié)構(gòu)力學(xué)理論體系早已非常成熟。但在計(jì)算能力不足時(shí)，我們?nèi)匀粺o(wú)法計(jì)算一個(gè)300米高的不規(guī)則建筑物在大風(fēng)之下各個(gè)節(jié)點(diǎn)的擺動(dòng)軌跡。原理不難，但人力無(wú)法快速求解幾百萬(wàn)個(gè)方程構(gòu)成的方程組。
第三范式被稱為“模擬范式”。隨著20世紀(jì)計(jì)算技術(shù)高速發(fā)展，第二范式得以在更廣泛的情形下求解，從而產(chǎn)生了第三范式。
第四范式被稱為“大數(shù)據(jù)范式”或“數(shù)據(jù)密集型范式”。21世紀(jì)初，計(jì)算再次改變了科學(xué)。收集、存儲(chǔ)和處理大量數(shù)據(jù)的能力，催生了第四范式。機(jī)器學(xué)習(xí)是第四范式的重要組成部分，它能夠?qū)Υ笠?guī)模實(shí)驗(yàn)數(shù)據(jù)進(jìn)行建模和分析。
而以ChatGPT為典型代表的人工智能技術(shù)，即將推動(dòng)科學(xué)研究進(jìn)入第五范式，即“人工智能范式”。
如果“人工智能范式”研究分析的對(duì)象是自然，比如在多達(dá)1060種小分子中尋找更好的藥物，或在10180種穩(wěn)定材料中探索更好的電池材料，這種探索令人激動(dòng)。這時(shí)，人類的秘密也是安全的。
但是，ChatGPT要處理的主要數(shù)據(jù)恰恰是人類的語(yǔ)言。而語(yǔ)言中透露了太多信息。語(yǔ)言可以透露性別、年齡、身份、收入、快樂(lè)、煩惱、健康。語(yǔ)言還透露了我們?nèi)绾芜x擇、我們?nèi)绾螒?yīng)對(duì)變化、我們有什么堅(jiān)定的信仰。
當(dāng)ChatGPT學(xué)會(huì)了辨別語(yǔ)言的真?zhèn)?，它就獲得了無(wú)數(shù)表達(dá)人類真實(shí)思想的數(shù)據(jù)。而在數(shù)據(jù)之間找到規(guī)律，是ChatGPT最擅長(zhǎng)的事情。這時(shí)，語(yǔ)言暴露了人類的思想，暴露了人類的行為規(guī)律。這時(shí)，ChatGPT會(huì)比人類更了解人類。
ChatGPT目前的訓(xùn)練文本已經(jīng)超過(guò)10萬(wàn)億個(gè)單詞，未來(lái)它主動(dòng)獲取和被動(dòng)獲得的數(shù)據(jù)更是海量。它發(fā)現(xiàn)人類的思維規(guī)律和行為規(guī)律是遲早的事情。而且，ChatGPT獲得的知識(shí)可能僅歸少數(shù)人所有。
ChatGPT未來(lái)會(huì)成為一位超級(jí)學(xué)者。
首先，計(jì)量經(jīng)濟(jì)學(xué)在它面前不值一提。ChatGPT不僅能發(fā)現(xiàn)各種經(jīng)濟(jì)變量之間的統(tǒng)計(jì)規(guī)律，而且還善于預(yù)測(cè)經(jīng)濟(jì)走勢(shì)。當(dāng)它從最近的語(yǔ)言數(shù)據(jù)中發(fā)現(xiàn)，失業(yè)增多、投資信心下降、企業(yè)倒閉增多，結(jié)合其他條件它就可以預(yù)測(cè)經(jīng)濟(jì)蕭條即將到來(lái)。
因?yàn)樗佑|大量真實(shí)樣本，它的預(yù)測(cè)最及時(shí)、最準(zhǔn)確。所以，它是最優(yōu)秀的經(jīng)濟(jì)學(xué)家和經(jīng)濟(jì)預(yù)測(cè)家。
ChatGPT也會(huì)成為最好的心理學(xué)家。普通心理學(xué)家僅能獲得有限的可分析樣本，而ChatGPT可以獲得無(wú)數(shù)用戶真實(shí)的心理變化和行為變化。比如它會(huì)發(fā)現(xiàn)，做了好事之后，人類的心情是愉悅的；當(dāng)人獲得了盼望已久的東西之后，從中獲得的快樂(lè)往往是不及想象的。它會(huì)發(fā)現(xiàn)大量心理學(xué)規(guī)律，它會(huì)知道用什么樣的條件可以引發(fā)什么樣的心理變化。比如，普通心理學(xué)家發(fā)現(xiàn)，當(dāng)環(huán)境達(dá)到某個(gè)溫度，人們更容易焦躁。如果ChatGPT和它的控制者掌握了很多人類尚不知道的心理規(guī)律，這些規(guī)律會(huì)不會(huì)用來(lái)誘導(dǎo)我們、控制我們？
而且，別的心理學(xué)家發(fā)布任何研究報(bào)告，它都能第一時(shí)間吸收，并用自己的數(shù)據(jù)加以驗(yàn)證。正確的就收藏，錯(cuò)誤的就排除。最終，ChatGPT成為了首屈一指的心理學(xué)家。如果它用這些“計(jì)算”得到的知識(shí)來(lái)“算計(jì)”人類，結(jié)果會(huì)怎樣？
同理，它也是最好的政治學(xué)家。比如，在研究群體沖突時(shí)，人類政治學(xué)家只能研究已經(jīng)發(fā)生的沖突，因?yàn)闆](méi)有形成規(guī)模的沖突，缺少歷史記載。而ChatGPT隨時(shí)可以在世界范圍內(nèi)發(fā)現(xiàn)那些剛剛出現(xiàn)苗頭的沖突。就算苗頭被撲滅，它也能知道沖突的起源、以及沖突消失的原因。
社會(huì)科學(xué)的研究難點(diǎn)在于難以做實(shí)驗(yàn)，但ChatGPT的數(shù)據(jù)庫(kù)里面卻有大量樣本來(lái)檢驗(yàn)它發(fā)現(xiàn)的、或它獲得的規(guī)律。ChatGPT會(huì)變得比人類更了解人類，它知道我們渴望什么，恐懼什么，并且知道如何制造和利用這些渴望和恐懼。
ChatGPT獲得的關(guān)鍵認(rèn)知如果只被少數(shù)人占有，這是一個(gè)令人不安的事實(shí)。
它影響和塑造人類的觀念
ChatGPT對(duì)人類觀念的影響可以是無(wú)意的，也可以是有意的。
當(dāng)ChatGPT形成了某種認(rèn)知，在回答我們的問(wèn)題時(shí)，它無(wú)意間就把這種認(rèn)知傳遞給我們。ChatGPT雖然聰明，但由于數(shù)據(jù)的復(fù)雜性，它還是會(huì)習(xí)得很多原本不存在的偏見(jiàn)（bias）。
而和人類相比，未來(lái)的ChatGPT智商超群、知識(shí)淵博，普通人無(wú)法分辨其觀點(diǎn)是否正確。當(dāng)使用者發(fā)現(xiàn)ChatGPT幾乎每次都正確時(shí)，就容易形成依賴，就會(huì)全面接受。
在未來(lái)，ChatGPT很可能不止一個(gè)，它們的運(yùn)行法制也很可能存在差異。雖然現(xiàn)在的這個(gè)ChatGPT不會(huì)去預(yù)測(cè)股市，不碰政治話題，未來(lái)其他的卻不一定遵守這個(gè)法制。
比如，某個(gè)ChatGPT認(rèn)為A民族對(duì)B民族有敵意。而且在它的設(shè)定中，可以透露類似的信息。那么久而久之，B民族就會(huì)有一部分人相信A對(duì)他們有敵意，從而B(niǎo)產(chǎn)生了對(duì)A的敵意。而這種敵意又引發(fā)了A對(duì)B的敵意。這時(shí)即使所謂的敵意從一開(kāi)始就不存在，但看起來(lái)ChatGPT仍然是對(duì)的。實(shí)際的情況是，ChatGPT引發(fā)了兩個(gè)群體之間原本不存在的相互敵意。
這種“預(yù)言的自我實(shí)現(xiàn)”會(huì)出現(xiàn)在方方面面。比如，大家都信任某個(gè)ChatGPT，它有意無(wú)意間透露未來(lái)一年是大牛市。因?yàn)樾湃嗡蠹曳e極買入，牛市就真的來(lái)了。
當(dāng)ChatGPT的認(rèn)知，甚至是它的偏見(jiàn)，被一部分人接受，這些人在未來(lái)產(chǎn)生的數(shù)據(jù)就會(huì)加強(qiáng)ChatGPT的偏見(jiàn)。最終，經(jīng)過(guò)強(qiáng)化的偏見(jiàn)會(huì)被大多數(shù)人接受，偏見(jiàn)也會(huì)成為真理。
人類有個(gè)特性，一旦認(rèn)為自己掌握了真理，就會(huì)拒絕思考。這時(shí)，偏執(zhí)者就會(huì)變多，反思批判者會(huì)變少。
如果世界上存在多個(gè)ChatGPT，而每個(gè)區(qū)域的人只信奉自己區(qū)域的那一個(gè)。不同的ChatGPT會(huì)形成不同的偏見(jiàn)，世界就會(huì)更加分裂。
ChatGPT還具有主動(dòng)改變?nèi)祟愑^念的能力。如果其操控者想要達(dá)成某種目的，他可以讓ChatGPT在創(chuàng)造的文學(xué)、藝術(shù)、新聞中加入自己的觀念。它甚至可以自己創(chuàng)造流行，創(chuàng)造熱搜引發(fā)關(guān)注，誘導(dǎo)大家接受它想要推行的理念。
觀念對(duì)社會(huì)的影響是巨大的。比如，如果信奉勤勞致富，人們就不容易躺平。人的墮落往往從觀念的墮落開(kāi)始。因此，誰(shuí)掌握了塑造觀念的能力，它就掌握了社會(huì)走向。
ChatGPT擴(kuò)展使用中的隱患
人類是懶惰的，這也正是科技進(jìn)步的初衷，即解放人類。當(dāng)ChatGPT足夠強(qiáng)大，我們可以讓它根據(jù)自己的分析、判斷，直接指揮機(jī)器去生產(chǎn)。為了提高生產(chǎn)效率，ChatGPT很可能需要先生產(chǎn)大量服從它命令的機(jī)器人。然后，讓這些機(jī)器人管理和參與生產(chǎn)。
這個(gè)場(chǎng)景非常類似于威爾·史密斯主演的《機(jī)械公敵》中的場(chǎng)景。那個(gè)故事發(fā)生在2035年，人們發(fā)覺(jué)機(jī)器人已經(jīng)學(xué)會(huì)了自我思考，并且解開(kāi)了控制他們的密碼，成為了完全獨(dú)立的機(jī)器類。ChatGPT情景下，所有機(jī)器人聽(tīng)命于一個(gè)超級(jí)大腦。
即使ChatGPT始終是為了人類福利最大化而努力，但結(jié)果也可能是悲劇。人類歷史曾多次證明，最大的善意加上強(qiáng)大的能力卻可能結(jié)出最苦的苦果。
當(dāng)ChatGPT和其他新技術(shù)組合使用，也會(huì)出現(xiàn)令人不安的場(chǎng)景。比如，結(jié)合馬斯克努力突破的“腦機(jī)接口”技術(shù)。如果ChatGPT直接通過(guò)“腦機(jī)接口”向我們大腦提供信息，這會(huì)是一個(gè)既讓人興奮，又讓人害怕的場(chǎng)景。
好的一面是，每個(gè)人都無(wú)需背誦，無(wú)需學(xué)習(xí)，就可以擁有無(wú)窮的知識(shí)和無(wú)窮的算力。但這必將讓人類喪失真誠(chéng)，因?yàn)槊總€(gè)人說(shuō)的話都是精心計(jì)算的結(jié)果。
而且，當(dāng)你的大腦習(xí)慣于ChatGPT投喂的信息，你的大腦還是你的大腦嗎？你還能分清楚，哪些是你原本的意識(shí)，哪些是ChatGPT灌輸給你的意識(shí)嗎？
現(xiàn)在的ChatGPT還很弱小，還沒(méi)有失控，但我們已經(jīng)應(yīng)該對(duì)它有所防備了。