專(zhuān)訪(fǎng)戴錦華：我質(zhì)疑技術(shù)樂(lè )觀(guān)主義，馬斯克叫停AI非?；?/h1>

來(lái)源：南方周末時(shí)間：2023-06-22 09:33:49

知名學(xué)者戴錦華，1959年生于北京，北京大學(xué)中文系教授、博士生導師。（受訪(fǎng)者供圖/圖）

2023年4、5月間，B站上以AI孫燕姿為名仿真翻唱的許多流行歌曲迅速走紅，包括周杰倫的《發(fā)如雪》《愛(ài)在西元前》、王杰的《一場(chǎng)游戲一場(chǎng)夢(mèng)》、萬(wàn)能青年旅店的《殺死那個(gè)石家莊人》。網(wǎng)友戲稱(chēng)：“一首歌沒(méi)唱的孫燕姿，竟然占據了華語(yǔ)歌壇半壁江山”。

5月22日，孫燕姿對AI做出回應：“無(wú)論是ChatGPT還是Al或者你想叫它什么名字，這個(gè)‘東西’現在能夠通過(guò)處理海量的信息，同時(shí)以最連貫的方式拼接組合手頭的任務(wù)，來(lái)模仿或創(chuàng )造出獨特而復雜的內容。等一下，人類(lèi)不就是這樣做的嗎？……諷刺的是，人類(lèi)無(wú)法超越它已指日可待。沒(méi)有人可以接觸到如此大量的信息并做出恰當的抉擇或犯下恰當的錯誤（OK，也許我領(lǐng)先一步了）。這種新技術(shù)將能夠大量炮制每個(gè)人所需的一切。無(wú)論你多么小眾、多么反?；蛘呔穸嗝村e亂，都可能有專(zhuān)門(mén)為你創(chuàng )建的獨特內容。你并不特別，你已經(jīng)是可預測的，而且不幸你也是可定制的?！?/p>

【資料圖】

而在3月底，包括特斯拉創(chuàng )始人馬斯克在內的多位科技界知名人士簽署了一封公開(kāi)信，稱(chēng)希望世界領(lǐng)先的人工智能實(shí)驗室暫停開(kāi)發(fā)6個(gè)月，因為最近的人工智能進(jìn)展“對人類(lèi)社會(huì )造成了潛在威脅”。

信中寫(xiě)道：“先進(jìn)的人工智能可能是地球史上濃墨重彩的一筆，我們應該規劃和管理它。不幸的是，這種高級別的規劃和管理并沒(méi)有發(fā)生，導致近幾個(gè)月世界頂級的人工智能實(shí)驗室陷入了一場(chǎng)失控的‘比拼’。研究者只顧著(zhù)開(kāi)發(fā)和部署更強大的數字思維，但他們自己可能都無(wú)法預判人工智能的未來(lái)走向，更不能可靠地控制人工智能?！?/p>

作為一個(gè)AI研發(fā)工程的深度參與者，馬斯克的公開(kāi)信引起了軒然大波。這封信的發(fā)布時(shí)間，正好是在馬斯克創(chuàng )立的人工智能研究公司OpenAI發(fā)布ChatGPT最新版本GPT-4兩周后。

早在六年前AlphaGo橫空出世之時(shí)，北京大學(xué)教授、知名學(xué)者戴錦華就用“臨淵回眸”來(lái)形容人類(lèi)的處境。她指出，這一輪以人工智能、數碼轉型為代表的新技術(shù)革命，我們“完全未經(jīng)抵抗，幾乎未經(jīng)討論”。

面對2023年更加來(lái)勢洶洶的AI浪潮，戴錦華會(huì )做出怎樣的“診斷”？近日，南方周末記者在北京大學(xué)對她進(jìn)行了專(zhuān)訪(fǎng)。

采訪(fǎng)結束后，戴錦華來(lái)到了北大課堂，這天下午，她講完了本學(xué)期最后一次中國電影史課程。戴錦華向學(xué)生致歉，因為太忙，她還是沒(méi)能準備PPT。盡管她以十分古典的方式，僅靠滔滔不絕的語(yǔ)言成為教室的焦點(diǎn)，但環(huán)繞著(zhù)她的，仍是各種先進(jìn)的電子設備。南方周末記者向戴錦華展示了錄音筆上的標語(yǔ)“聽(tīng)見(jiàn)AI的聲音”，她不解地皺了皺眉頭。

近來(lái)，以AI孫燕姿為名仿真翻唱的許多流行歌曲迅速走紅，“AI孫燕姿”成為頂流，歌手孫燕姿對此做出了長(cháng)文回應。（視覺(jué)中國/圖）

流行文化會(huì )最早受到AI的沖擊

南方周末：你怎么看待AI孫燕姿成為流行文化的熱門(mén)？

戴錦華：我覺(jué)得這實(shí)際上只是冰山一角，可能AI最直接沖擊的就是大眾流行文化的觀(guān)念。因為流行文化工業(yè)的特征就是類(lèi)型化，類(lèi)型化可以復制再生產(chǎn)，而AI應該是可以勝任的。類(lèi)型就在于重復和變奏，AI一定會(huì )比任何一個(gè)制作者都掌握更完備的資料庫。比如說(shuō)，西部片、驚悚片，很難有人看盡，對吧？但AI就可以看盡，這也就意味著(zhù)它熟悉所有的套路。理想的狀態(tài)之下，它能做出最巧妙的變動(dòng)。那么在這個(gè)意義上說(shuō)，流行文化的生產(chǎn)者會(huì )最早、最直接地受到?jīng)_擊。

我們原來(lái)所說(shuō)的，盡人皆知又很難定義的原創(chuàng )性，仍然是人類(lèi)的特征。但AI作為一種硅基生命，通過(guò)自主學(xué)習、自主成長(cháng)，能不能成長(cháng)出所謂的原創(chuàng )性？我覺(jué)得是完全可能的?？墒?，我仍然認為人性的特征就在于：它不可測量，不可描述，不可限定。

所以我不認為AI能夠自主生產(chǎn)出人性，它大概會(huì )在理性和智慧的意義上走得很遠，但是我不認為它能夠復制人類(lèi)所有的荒誕、所有的不可捉摸和差異。

而且我也認識到，至少這一次ChatGPT體現出的批判性思維很少。那種證實(shí)和提供合法性、復制再生產(chǎn)的東西可能會(huì )最直接地受到?jīng)_擊。而批判性的思考，不管多么發(fā)達、高超的人工智能，都暫時(shí)無(wú)法替代。

不久前我在社科院做演講，孫歌（中國社會(huì )科學(xué)院文學(xué)研究所研究員）做我的回應人，她認為威脅在于，AI開(kāi)始生產(chǎn)出一種感情，而人類(lèi)反過(guò)來(lái)會(huì )被

標簽：