在不到兩個(gè)月的時(shí)間里，人工智能（AI）項(xiàng)目ChatGPT已經(jīng)成為一種文化轟動(dòng)。它可以通過工具開發(fā)者OpenAI創(chuàng)建的門戶網(wǎng)站自由訪問。

基于書面提示自動(dòng)創(chuàng)建文本的程序非常流行，如果你嘗試使用它，它很可能會(huì)“現(xiàn)在無法使用”。當(dāng)你成功完成后，ChatGPT會(huì)提供無盡的娛樂。我要求它重寫經(jīng)典美劇《推銷員之死》的第一幕，但以動(dòng)畫電影《冰雪奇緣》中的埃爾莎公主為主角，而不是威利·洛曼。結(jié)果是一場(chǎng)有趣的對(duì)話，在這場(chǎng)對(duì)話中，兒子Happy告訴結(jié)束了艱難的一天銷售回家的艾爾莎：“來吧，媽媽。你是來自《冰雪奇緣》的艾爾莎。你有冰的力量，你是女王。你勢(shì)不可擋?！保菍?duì)于像ChatGPT這樣的人工智能項(xiàng)目在科學(xué)界和學(xué)術(shù)界有著嚴(yán)重的影響。

Machines play an important role, but as tools for the people posing the hypotheses...and making sense of the result

ChatGPT（Generative Pre-trained Transformer）是用一種稱為“從人類反饋中強(qiáng)化學(xué)習(xí)”的技術(shù)開發(fā)出來的，用于訓(xùn)練語言模型，使其能夠非常對(duì)話。正如該網(wǎng)站所言，“ChatGPT有時(shí)會(huì)寫出看似合理但不正確或荒謬的答案。”幾個(gè)例子表明，它可能會(huì)犯下明顯的錯(cuò)誤，包括引用一項(xiàng)不存在的科學(xué)研究。許多擔(dān)憂與ChatGPT將如何改變教育有關(guān)。它當(dāng)然可以寫一系列主題的文章。我給了它一次考試和一個(gè)期末項(xiàng)目，我在喬治·華盛頓大學(xué)教的一門關(guān)于科學(xué)的課上給了學(xué)生。它確實(shí)找到了事實(shí)的答案，但學(xué)術(shù)寫作還有很長(zhǎng)的路要走。如果有的話，這對(duì)教育的影響可能會(huì)促使學(xué)者們以創(chuàng)新的方式重新思考他們的課程，并給出人工智能不容易解決的作業(yè)。

更令人擔(dān)憂的是ChatGPT對(duì)撰寫科學(xué)論文的影響。在最近的一項(xiàng)研究中，ChatGPT創(chuàng)建的摘要被提交給學(xué)術(shù)評(píng)審員，他們只發(fā)現(xiàn)了63%的造假。這是大量人工智能生成的文本，可能很快就會(huì)進(jìn)入文獻(xiàn)。多年來，《科學(xué)》系列期刊的作者簽署了一份許可證，證明“作品是原創(chuàng)的”。對(duì)于《科學(xué)》雜志來說，“原創(chuàng)”一詞足以表明ChatGPT撰寫的文本是不可接受的：畢竟，它是從ChatGPT剽竊的。此外，我們的作者證明他們自己對(duì)論文中的研究負(fù)責(zé)。盡管如此，為了明確起見，我們現(xiàn)在正在更新我們的許可證和編輯政策，以規(guī)定ChatGPT（或任何其他人工智能工具）生成的文本不能用于工作，數(shù)字、圖像或圖形也不能作為此類工具的產(chǎn)品。人工智能程序不能是作者。違反這些政策將構(gòu)成科學(xué)不端行為，與修改圖像或剽竊現(xiàn)有作品無異。當(dāng)然，有許多合法的數(shù)據(jù)集（不是論文的文本）是人工智能在研究論文中故意生成的，而這些數(shù)據(jù)集并沒有被這種變化所涵蓋。

《科學(xué)期刊》處理的大多數(shù)科學(xué)不端行為都是因?yàn)槿祟愖⒁饬Σ蛔恪？旖莘绞绞峭ㄟ^使用Photoshop等圖像處理程序或從其他來源復(fù)制文本來實(shí)現(xiàn)的。更改的圖像和復(fù)制的文本可能會(huì)被忽略，因?yàn)樗鼈儧]有受到每位作者的仔細(xì)檢查。在我們這一方面，當(dāng)編輯和審稿人不聽從他們內(nèi)心的懷疑者的話，或者當(dāng)我們沒有把注意力集中在細(xì)節(jié)上時(shí)，就會(huì)出現(xiàn)錯(cuò)誤。在人們對(duì)科學(xué)的信任正在減弱的時(shí)候，科學(xué)家們必須重新致力于對(duì)細(xì)節(jié)的細(xì)致關(guān)注?？茖W(xué)記錄最終是人類努力解決重要問題的一部分。機(jī)器扮演著重要的角色，但它是人們提出假設(shè)、設(shè)計(jì)實(shí)驗(yàn)和理解結(jié)果的工具。最終，產(chǎn)品必須來自我們頭腦中的奇妙計(jì)算機(jī)并由其表達(dá)。