自去年ChatGPT問世以來(lái)，AI技術(shù)的進(jìn)展已經(jīng)可以用“日新月異”來(lái)形容。技術(shù)的發(fā)展在提升社會(huì)生產(chǎn)效率的同時(shí)，也帶來(lái)了巨大的不確定性和潛在的風(fēng)險(xiǎn)因素。
批評(píng)者對(duì)快速發(fā)展的AI技術(shù)的擔(dān)憂包括侵犯隱私、偏見、欺詐以及散播謠言和虛假信息等。而各國(guó)的監(jiān)管機(jī)構(gòu)也正在以空前的速度跟上技術(shù)進(jìn)步的腳步。白宮官員近日向美國(guó)科技公司發(fā)出邀請(qǐng)，計(jì)劃在5月4日與行業(yè)企業(yè)領(lǐng)導(dǎo)者共同探討針對(duì)人工智能的監(jiān)管問題。
上海交通大學(xué)行業(yè)研究院“人工智能+”行業(yè)團(tuán)隊(duì)負(fù)責(zé)人、上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院教授史占中近日在一場(chǎng)媒體沙龍上談及ChatGPT時(shí)對(duì)第一財(cái)經(jīng)記者表示：“ChatGPT就如同阿拉丁神燈一樣打開了一個(gè)寶藏，不斷給我們驚喜，這些產(chǎn)品在文學(xué)創(chuàng)作、翻譯、文本分析、應(yīng)用編程以及語(yǔ)言文字編輯溝通等方面已經(jīng)形成了強(qiáng)大的原創(chuàng)力。同時(shí)，這也給很多行業(yè)的工作帶來(lái)挑戰(zhàn)。”
AI“讀心”準(zhǔn)確率超80%
近日，美國(guó)得克薩斯州奧斯汀分校的團(tuán)隊(duì)基于人工智能技術(shù)開發(fā)出一種解碼器，可將大腦活動(dòng)轉(zhuǎn)化為連續(xù)的文本流，AI首次可以通過非侵入式的方法學(xué)會(huì)“讀心術(shù)”。
根據(jù)這項(xiàng)發(fā)表在《自然神經(jīng)科學(xué)》（Nature Neuroscience）雜志上的實(shí)驗(yàn)結(jié)果，GPT人工智能大模型感知語(yǔ)音的準(zhǔn)確率可高達(dá)82%，令人驚嘆。
不過研究人員強(qiáng)調(diào)，“AI讀心”也要尊重心理隱私，AI的訓(xùn)練和應(yīng)用解碼器都需要著手解決有關(guān)該技術(shù)可能被濫用的問題，以確保人們只在他們想要的時(shí)候使用這類技術(shù)，并對(duì)他們有所幫助，而不是起到反向作用。
隨著人工智能技術(shù)突飛猛進(jìn)的發(fā)展，技術(shù)的風(fēng)險(xiǎn)以及如何對(duì)此加以監(jiān)管，成為越來(lái)越受關(guān)注的話題。
就連一生從事神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)研究的圖靈獎(jiǎng)得主、有“AI教父”之稱的計(jì)算機(jī)科學(xué)家杰弗里?辛頓（Geoffrey Hinton）近日也對(duì)人工智能的發(fā)展產(chǎn)生了新的思考。為了警告AI技術(shù)潛在的風(fēng)險(xiǎn)而又免于利益沖突，辛頓本周公開宣布，他已離開工作了十余年的谷歌，轉(zhuǎn)而成為AI技術(shù)的“吹哨人”。
辛頓表示：“我現(xiàn)在傾向于認(rèn)為，我們正在創(chuàng)造的數(shù)字智能與生物智能非常不同。”
類似于ChatGPT這樣的聊天機(jī)器人正在對(duì)各行各業(yè)形成顛覆性的效應(yīng)。這種聊天機(jī)器人基于AI大模型，能夠迅速地學(xué)習(xí)知識(shí)。事實(shí)上，在某些方面，它們的能力已經(jīng)超越了人類。
“如果我有1000個(gè)這樣的數(shù)字代理（AI agent），那么每當(dāng)一個(gè)代理學(xué)習(xí)如何做一件事情的時(shí)候，其他所有的代理也都會(huì)立即知道，生物智能是不具備這樣的能力的?！毙令D解釋道，“因此，相同數(shù)字代理的集合可以獲得比任何單個(gè)生物智能都多得多的知識(shí)，這就是為什么GPT-4比任何人都知道的多。”
教育、媒體行業(yè)已受到顯著沖擊
OpenAI公司3月曾發(fā)布一篇論文，預(yù)言美國(guó)80%的工作都會(huì)受到AI的影響。根據(jù)高盛的預(yù)測(cè)，生成式AI會(huì)導(dǎo)致勞動(dòng)力市場(chǎng)受到重大沖擊，使全球3億個(gè)工作崗位實(shí)現(xiàn)自動(dòng)化，并且美國(guó)7%的工作崗位將被AI取代。
AI大模型的能力已經(jīng)開始改變一些行業(yè)，并對(duì)企業(yè)業(yè)務(wù)產(chǎn)生了實(shí)質(zhì)性的影響，尤其是在教育行業(yè)，AI的影響體現(xiàn)在企業(yè)的財(cái)報(bào)中。
5月2日，總部位于美國(guó)加州的在線教育公司齊格（Chegg）股價(jià)暴跌50%。該公司CEO丹?羅森斯維格（Dan Rosensweig）在與分析師的財(cái)報(bào)電話會(huì)議上表示：“我們現(xiàn)在開始相信ChatGPT正在對(duì)我們的新客戶增長(zhǎng)率產(chǎn)生影響?！?/p>
這一警告也令其他公司感到不安，英國(guó)教育上市公司培生當(dāng)天股價(jià)下跌15%，語(yǔ)言學(xué)習(xí)平臺(tái)多鄰國(guó)（Duolingo）股價(jià)下跌10%。
為了應(yīng)對(duì)ChatGPT帶來(lái)的挑戰(zhàn)，上個(gè)月，Chegg基于AI大模型推出了一個(gè)叫做CheggMate的應(yīng)用程序，學(xué)生能夠通過與AI交談來(lái)訪問量身定制的內(nèi)容。
由于擔(dān)心“AI會(huì)讓學(xué)生作弊”，全球的一些高校已經(jīng)禁止了ChatGPT在校園里的使用。而一些企業(yè)出于對(duì)安全隱私的保護(hù)，也禁止員工使用ChatGPT等生成式AI工具。
最近幾個(gè)月，包括高盛在內(nèi)的大公司都已禁止或限制使用生成人工智能AI平臺(tái)。最新加入的是三星電子。三星電子周二表示，在一份內(nèi)部文件中指出生成式AI技術(shù)的“濫用案例”后，它已禁止部分員工使用ChatGPT等AI工具。
三星稱正在努力尋求確保員工在安全環(huán)境中使用生成式人工智能服務(wù)的方法，但在這些措施準(zhǔn)備就緒之前，暫時(shí)禁止在公司擁有的計(jì)算機(jī)上使用生成式人工智能服務(wù)。
生成式AI的出現(xiàn)已經(jīng)讓網(wǎng)絡(luò)充斥著真假難辨的內(nèi)容。辛頓日前也警告稱，虛假照片、視頻和文字已經(jīng)讓普通人“無(wú)法再辨別真假”。對(duì)此，他提出了擔(dān)憂。
反虛假信息機(jī)構(gòu)NewsGuard近日的一項(xiàng)調(diào)查，更是有了驚人的發(fā)現(xiàn)。統(tǒng)計(jì)顯示，該機(jī)構(gòu)監(jiān)測(cè)到的偽裝成“記者”的聊天機(jī)器人竟然運(yùn)行著近50個(gè)人工智能生成的“內(nèi)容農(nóng)場(chǎng)”。
研究人員發(fā)現(xiàn)，這些網(wǎng)站大量生產(chǎn)與政治、健康、環(huán)境、金融和技術(shù)相關(guān)的內(nèi)容，生成速度驚人，并充斥著商業(yè)廣告。
Newsguard的研究人員表示：“有些’記者’每天發(fā)表數(shù)百篇文章，一些內(nèi)容充斥著虛假敘述，并且?guī)缀跛械膬?nèi)容都以乏味的語(yǔ)言和重復(fù)的短語(yǔ)為特征，這是人工智能的標(biāo)志?！?/span>
監(jiān)管機(jī)構(gòu)試圖阻止“危險(xiǎn)游戲”
網(wǎng)絡(luò)空間的混亂引發(fā)了業(yè)內(nèi)對(duì)人工智能風(fēng)險(xiǎn)的激辯，批評(píng)人士認(rèn)為，大型科技公司爭(zhēng)相開展基于生成式人工智能（AIGC）的產(chǎn)品開發(fā)活動(dòng)，“這是在與危險(xiǎn)賽跑”。
特斯拉CEO馬斯克多次重申，應(yīng)該對(duì)人工智能保持謹(jǐn)慎。他呼吁政府進(jìn)行監(jiān)管，因?yàn)槿斯ぶ悄芸赡軐?duì)公眾構(gòu)成威脅。
谷歌CEO皮查伊也表示，所有公司的產(chǎn)品都將受到人工智能快速發(fā)展的影響，社會(huì)需要為已經(jīng)推出的技術(shù)做好準(zhǔn)備。但他表示：“我們的適應(yīng)速度與技術(shù)發(fā)展的速度相比，似乎還不太匹配?！?/p>
各國(guó)監(jiān)管機(jī)構(gòu)也早已坐不住了。白宮官員近日向美國(guó)科技公司發(fā)出邀請(qǐng)，希望與行業(yè)企業(yè)領(lǐng)導(dǎo)者共同探討針對(duì)人工智能的監(jiān)管問題。參加的科技公司包括谷歌、微軟和OpenAI等公司高管。美國(guó)總統(tǒng)拜登稱，希望科技公司在向公眾提供產(chǎn)品之前必須確保其產(chǎn)品安全。
歐洲消費(fèi)者組織（BEUC）也呼吁歐盟消費(fèi)者保護(hù)機(jī)構(gòu)關(guān)注人工智能對(duì)消費(fèi)者的潛在危害。上個(gè)月，歐洲數(shù)據(jù)保護(hù)委員會(huì)已經(jīng)成立了一個(gè)專門針對(duì)ChatGPT的工作組，并朝著制定人工智能隱私規(guī)則的共同政策邁出的重要一步。
歐盟立法者還在討論如何引入歐盟人工智能法案，并且生成式AI（AIGC）成為最受關(guān)注的內(nèi)容之一。歐盟委員會(huì)將于5月11日對(duì)相關(guān)協(xié)議進(jìn)行投票，如果通過，將進(jìn)入下一階段的三方談判，屆時(shí)歐盟成員國(guó)將與歐盟委員會(huì)以及歐洲議會(huì)就談判內(nèi)容進(jìn)行辯論。
斯坦福大學(xué)網(wǎng)絡(luò)政策中心國(guó)際政策主任、歐盟委員會(huì)執(zhí)行副主席維斯塔格的特別顧問瑪麗耶杰?沙克（Marietje Schaake）在5月2日公開發(fā)表的一篇專欄文章中指出：“突然間，每個(gè)人都想規(guī)范人工智能，包括撰寫公開信并討論立法提案。但不幸的是，AI的特性與所提供的解決方案之間的不匹配，暴露了AI產(chǎn)品的開發(fā)者與政策制定者及立法者之間的鴻溝?！?/p>
沙克寫道，一些人工智能行業(yè)領(lǐng)袖希望在大約6個(gè)月的時(shí)間內(nèi)，建立對(duì)生成式AI的監(jiān)管法規(guī)，但事實(shí)上，通過并實(shí)施人工智能法案的過程通常會(huì)長(zhǎng)達(dá)數(shù)年時(shí)間。
她認(rèn)為，成功的人工智能監(jiān)管必須解決三個(gè)領(lǐng)域的問題。首先是人工智能開發(fā)者與社會(huì)其他個(gè)體之間的權(quán)力需要重新平衡?！斑@種不對(duì)稱性已經(jīng)非常嚴(yán)重，只有最大的科技公司才能開發(fā)人工智能?！?沙克指出，“這意味著只有科技巨頭可以訪問數(shù)據(jù)集，并有能力訓(xùn)練和處理它們?！?/p>
她補(bǔ)充道，即使是像斯坦福大學(xué)這樣培養(yǎng)頂級(jí)人工智能工程師的大學(xué)，也不具備硅谷公司的數(shù)據(jù)或計(jì)算能力?！?span style="font-weight: 700;">因此人工智能內(nèi)部運(yùn)作的秘密仍然鎖在企業(yè)系統(tǒng)中?！?沙克表示，“這使得這些企業(yè)具有巨大的社會(huì)影響力。”
這就引申出第二個(gè)問題，也就是獲取信息必須有公共利益保障措施作為前提，讓立法者能夠看到企業(yè)內(nèi)部人工智能是如何運(yùn)作的。“由于公眾對(duì)影響社會(huì)的應(yīng)用程序的管理和算法缺乏了解，這反過來(lái)又阻礙了有針對(duì)性的公共政策和必要的問責(zé)機(jī)制的建立?！?沙克寫道。
她指出的第三點(diǎn)是“不能忽視人工智能不斷變化的本質(zhì)”，監(jiān)管在嚴(yán)格執(zhí)行的同時(shí)也要靈活變通。
“目前生成式AI表現(xiàn)了三個(gè)方面的特點(diǎn)，超強(qiáng)的學(xué)習(xí)能力、超廣的連接能力、超能的邏輯推演能力，尤其是邏輯推理能力令人震驚?！笔氛贾斜硎?，“未來(lái)它還可能會(huì)突變出超凡的自我意識(shí)，這一點(diǎn)我們較為關(guān)注?！?/p>
史占中認(rèn)為，從國(guó)家的層面來(lái)講，要加快AI相關(guān)領(lǐng)域的立法，特別在金融、安全、健康等領(lǐng)域嚴(yán)格監(jiān)管，厘清AI的設(shè)計(jì)者、使用者、內(nèi)容生成者的權(quán)責(zé)關(guān)系，完善AI決策的問責(zé)機(jī)制，保護(hù)大眾合法權(quán)益；而從社會(huì)層面來(lái)講，應(yīng)加強(qiáng)AI技術(shù)的監(jiān)管，推進(jìn)AI研發(fā)者遵守倫理準(zhǔn)則與規(guī)范AI的發(fā)展。
“我們希望人工智能的能力成為改善人類生活、促進(jìn)人類文明發(fā)展的’助推器’，以及人類走向星際文明的’擺渡人’?！笔氛贾斜硎尽?/p>