大模型研究不能停！

吳恩達(dá)和LeCun為了這事兒，甚至親自搞了場直播。畢竟再不出手，事態(tài)眼看著越來越嚴(yán)重了：

馬斯克等人叫停GPT-5研發(fā)的事態(tài)再次升級，已從千人聯(lián)名發(fā)展到超過13500人簽署。

兩人還直言，暫停AI研究就是反理性：

AI研究暫停6個(gè)月，才是真正巨大的傷害。

應(yīng)該受監(jiān)管的是AI產(chǎn)品，而不是背后的研究。

此前暫停比GPT-4強(qiáng)大的AI試驗(yàn)的呼吁，已得到深度學(xué)習(xí)三巨頭中的Yoshua Bengio簽名支持，Hinton未簽名但表示“要比6個(gè)月更長才行”。

此次吳恩達(dá)與LeCun兩人， 除了直播闡述各自的觀點(diǎn)外，還回應(yīng)了網(wǎng)友關(guān)心的更多問題。

觀看了直播和視頻回放的網(wǎng)友們則表示，視頻出境比推特發(fā)言提供了更多的上下文背景和微妙的語氣差異。

LeCun認(rèn)為，現(xiàn)在人們對AI的擔(dān)憂和恐懼應(yīng)分為兩類：

一、與未來有關(guān)的，AI不受控制、逃離實(shí)驗(yàn)室、甚至統(tǒng)治人類的猜測。

二、與現(xiàn)實(shí)有關(guān)的，AI在公平、偏見上的缺陷和對社會經(jīng)濟(jì)的沖擊。

對第一類，他認(rèn)為未來AI不太可能還是ChatGPT式的語言模型，無法對不存在的事物做安全規(guī)范。

汽車還沒發(fā)明出來，該怎么去設(shè)計(jì)安全帶呢？

對第二類擔(dān)憂，吳恩達(dá)和LeCun都表示監(jiān)管有必要，但不能以犧牲研究和創(chuàng)新為代價(jià)。

吳恩達(dá)表示，AI在教育、醫(yī)療等方面創(chuàng)造巨大價(jià)值，幫助了很多人。

暫停AI研究才會對這些人造成傷害，并減緩價(jià)值的創(chuàng)造。

LeCun認(rèn)為，“AI逃跑”或者“AI統(tǒng)治人類”這種末日論還讓人們對AI產(chǎn)生了不切實(shí)際的期待。

ChatGPT給人帶來這種想法是因?yàn)樗Z言流利，但語言并不是智能的全部。

語言模型對現(xiàn)實(shí)世界的理解非常表面，盡管GPT-4是多模態(tài)的，但仍然沒有任何對現(xiàn)實(shí)的“經(jīng)驗(yàn)”，這就是為什么它還是會一本正經(jīng)地胡說八道。

而且這個(gè)問題，4年前LeCun已經(jīng)在《科學(xué)美國人》上與冷泉港實(shí)驗(yàn)室神經(jīng)科學(xué)家Anthony Zador一起撰文回應(yīng)過了，標(biāo)題就叫《不必害怕終結(jié)者》。

在直播節(jié)目中LeCun再次重申了文章的主要觀點(diǎn)。

統(tǒng)治的動機(jī)只出現(xiàn)在社會化物種中，如人類和其他動物，需要在競爭中生存、進(jìn)化。

而我們完全可以把AI設(shè)計(jì)成非社會化物種，設(shè)計(jì)成非支配性的（non-dominant）、順從的（submissive）、或者遵守特定規(guī)則以符合人類整體的利益。

吳恩達(dá)則用生物科學(xué)史上的里程碑事件“阿希洛馬會議”來比較。

1975年，DNA重組技術(shù)剛剛興起，其安全性和有效性受到質(zhì)疑。世界各國生物學(xué)家、律師和政府代表等召開會議，經(jīng)過公開辯論，最終對暫緩或禁止一些試驗(yàn)、提出科研行動指南等達(dá)成共識。

吳恩達(dá)認(rèn)為，當(dāng)年的情況與今天AI領(lǐng)域發(fā)生的事并不一樣，DNA病毒逃出實(shí)驗(yàn)室是一個(gè)現(xiàn)實(shí)的擔(dān)憂，而他沒有看到今天的AI有任何逃出實(shí)驗(yàn)室的風(fēng)險(xiǎn)，至少要幾十年甚至幾百年才有可能。

在回答觀眾提問“什么情況下你會同意暫停AI研究？”時(shí)，LeCun也表示應(yīng)該區(qū)分“潛在危害、真實(shí)危害”與“想像中的危害”，當(dāng)真實(shí)危害出現(xiàn)時(shí)應(yīng)該采取手段規(guī)范產(chǎn)品。

第一輛汽車并不安全，當(dāng)時(shí)沒有安全帶、沒有好的剎車、也沒有紅綠燈，過去的科技都是逐漸變安全的，AI也沒什么特殊性。

而對于“如何看待Yoshua Bengio簽署了聯(lián)名？”這個(gè)問題，LeCun表示他和Bengio一直是朋友，他認(rèn)為Bengio擔(dān)心的點(diǎn)在于“公司為了盈利掌握科技本質(zhì)上就是壞的”，但他自己不這么看待，兩人觀點(diǎn)一致之處在于AI研究應(yīng)該公開進(jìn)行。

Bengio最近也在個(gè)人網(wǎng)站詳細(xì)解釋了他為什么會簽署。

隨著ChatGPT到來，商業(yè)競爭激烈了十多倍，風(fēng)險(xiǎn)在于各公司會急于開發(fā)巨大的AI系統(tǒng)，把過去十幾年間開放的透明的習(xí)慣拋在腦后。

直播結(jié)束后，吳恩達(dá)與LeCun兩人還在與網(wǎng)友做進(jìn)一步交流。

對于“你為什么不相信AI會逃出實(shí)驗(yàn)室”，LeCun表示讓AI在一個(gè)特定硬件平臺上保持運(yùn)行都很難了。

對于“AI達(dá)到奇點(diǎn)發(fā)生突變、不受控制”的回應(yīng)則是，在現(xiàn)實(shí)世界中每個(gè)進(jìn)程都會有摩擦力，指數(shù)增長會迅速變成Sigmoid函數(shù)。

還有網(wǎng)友開玩笑說，語言模型經(jīng)常被形容為“隨機(jī)吐出詞匯的鸚鵡”，但真實(shí)的鸚鵡危險(xiǎn)多了，有喙、爪子和傷害人的意圖。

LeCun補(bǔ)充道，澳大利亞鳳頭鸚鵡更兇狠，我呼吁對鳳頭鸚鵡實(shí)施6個(gè)月的管制。

對于影響力越來越大的AI暫停6個(gè)月提案，也有越來越多的人表達(dá)自己的觀點(diǎn)。

比爾蓋茨對路透社表示“我不認(rèn)為讓一個(gè)特定的組織暫停就會解決這些問題。在一個(gè)全球性的行業(yè)中，暫停很難執(zhí)行”。

據(jù)福布斯報(bào)道，谷歌前CEO埃里克施密特認(rèn)為“監(jiān)管部門大多數(shù)人對科技的理解還不足以正確規(guī)范其發(fā)展。另外如果在美國暫停6個(gè)月，只會讓別的國家受益?！?/p>

與此同時(shí)，AI研究界另一股聲音的影響力也逐漸加大。

由非贏利組織LAION-AI（Stable Diffusion訓(xùn)練數(shù)據(jù)提供者）發(fā)起的請?jiān)笗灿谐^1400人簽署。

這個(gè)項(xiàng)目呼吁建設(shè)公眾資助的國際化超級AI基礎(chǔ)設(shè)施，配備10萬最先進(jìn)的AI加速芯片，確保創(chuàng)新和安全。

就相當(dāng)于粒子物理學(xué)界的CERN（歐洲核子研究組織）。

支持者包括LSTM之父Jürgen Schmidhuber，HuggingFace聯(lián)合創(chuàng)始人Thomas Wolf等知名研究者。