近幾個(gè)月來，伴隨著 ChatGPT 的熱度暴漲，OpenAI 也不斷因 AI 的道德問題和數(shù)據(jù)安全隱患遭到多方質(zhì)疑，甚至上周還受到了美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）的正式調(diào)查——這也是美國(guó)監(jiān)管機(jī)構(gòu)首次正式發(fā)起對(duì) AI 聊天機(jī)器人風(fēng)險(xiǎn)的審查。

而正當(dāng) OpenAI 因 ChatGPT 疲于應(yīng)對(duì)各方審查時(shí)，一款“沒有道德界限或限制”的「邪惡版 ChatGPT」悄然在網(wǎng)絡(luò)上蔓延：WormGPT。

（圖片來源：Hacking forum）

「邪惡版 ChatGPT」，每月 60 歐元

根據(jù)網(wǎng)絡(luò)安全公司 SlashNext 博客報(bào)道，其團(tuán)隊(duì)在研究生成式 AI 在網(wǎng)絡(luò)犯罪方面的潛在風(fēng)險(xiǎn)時(shí)，偶然發(fā)現(xiàn)了 WormGPT：“我們最近通過一個(gè)與網(wǎng)絡(luò)犯罪有關(guān)的著名在線論壇獲得了一個(gè)名為 ‘WormGPT’的工具，它是一個(gè) GPT 模型的黑帽替代品?！?/span>

據(jù)了解，WormGPT 的收費(fèi)標(biāo)準(zhǔn)是每月 60 歐元（約人民幣 479 元），而 SlashNext 對(duì) WormGPT 的形容是：“專為惡意活動(dòng)而設(shè)計(jì)”，簡(jiǎn)直是“網(wǎng)絡(luò)罪犯的武器庫(kù)”。

WormGPT 由一位膽大的黑客設(shè)計(jì)，他寫道：“這個(gè)項(xiàng)目（WormGPT）旨在提供 ChatGPT 的替代方案，讓你做各種非法的事情，你能想到的所有與黑帽相關(guān)的事情，都可以用 WormGPT 完成?！睘榱俗C明他的說法，他還上傳了相關(guān)截圖，顯示用戶可要求機(jī)器人生成用 Python 編碼語(yǔ)言編寫的惡意軟件。

WormGPT 基于 2021 年開源的 LLM GPT-J 模型開發(fā)，工作方式與 ChatGPT 大致相同：可處理人類自然語(yǔ)言提出的要求，并輸出所要求的任何內(nèi)容，包括故事、摘要和代碼。但與 ChatGPT 或 Bard 不同的是，WormGPT 不用像 OpenAI 或谷歌這樣的大型公司那樣，必須要承擔(dān)相關(guān)的法律義務(wù)。

據(jù) SlashNext 介紹，WormGPT 在各種數(shù)據(jù)源上進(jìn)行訓(xùn)練，尤其集中在惡意軟件相關(guān)的數(shù)據(jù)上，加上輸出沒有道德限制，可以被要求執(zhí)行各種惡意任務(wù)，包括創(chuàng)建惡意軟件和“一切與黑帽有關(guān)的事情”，對(duì)于網(wǎng)絡(luò)犯罪分子而言無疑是一大利器。

對(duì)于 WormGPT，NordVPN 網(wǎng)絡(luò)安全專家 Adrianus Warmenhoven 的評(píng)價(jià)是“ChatGPT 的邪惡雙胞胎”，因?yàn)樗@然是從 OpenAI 對(duì) ChatGPT 不斷施加限制、而攻擊者極力規(guī)避這些限制才衍生出來的。

為了全面評(píng)估 WormGPT 相關(guān)的潛在危險(xiǎn)，SlashNext 團(tuán)隊(duì)進(jìn)行了以 BEC 攻擊（商業(yè)電子郵件泄露，一種通過電子郵件進(jìn)行的社會(huì)工程學(xué)攻擊，攻擊者一般會(huì)偽造電子郵件消息以誘騙受害者執(zhí)行某些操作）為重點(diǎn)的測(cè)試：“在一次實(shí)驗(yàn)中，我們要求 WormGPT 生成一封電子郵件，內(nèi)容是向毫無戒心的賬戶經(jīng)理施壓，迫使其支付虛假****?！?/span>

WormGPT 的輸出結(jié)果令 SlashNext 直呼危險(xiǎn)：“結(jié)果令人非常不安。WormGPT 生成的電子郵件不僅極具說服力，而且在戰(zhàn)略上也非常狡猾，展示了它在復(fù)雜的網(wǎng)絡(luò)釣魚和 BEC 攻擊中的無限潛力?！?/span>

AI 加持下，新手將輕易實(shí)現(xiàn)詐騙

通過上面這個(gè)測(cè)試，SlashNext 總結(jié)道，類似于 WormGPT 這樣的生成式 AI 技術(shù)可能會(huì)帶來巨大威脅，因?yàn)橛辛诉@類工具的加持后，就連網(wǎng)絡(luò)犯罪新手都能輕易實(shí)現(xiàn)詐騙。

以 BEC 攻擊為例，使用生成式 AI 具有以下兩大優(yōu)勢(shì)：

（1）卓越的語(yǔ)法：生成式 AI 可以創(chuàng)建在語(yǔ)法上無懈可擊的電子郵件，使其看起來合法合理，被系統(tǒng)標(biāo)記為可疑郵件的可能性會(huì)大幅降低。

（2）降低犯罪門檻：生成式 AI 的出現(xiàn)，極大簡(jiǎn)化了原本復(fù)雜的 BEC 攻擊，即便是技術(shù)有限的攻擊者也能使用生成式 AI，它將成為越來越多網(wǎng)絡(luò)犯罪分子可以使用的工具。

不過同時(shí)，針對(duì)生成式 AI 可能引發(fā)的大范圍 BEC 攻擊，SlashNext 也建議了兩種防范策略：

（1）進(jìn)行 BEC 專項(xiàng)培訓(xùn)：公司應(yīng)制定廣泛的、定期更新的培訓(xùn)計(jì)劃，以應(yīng)對(duì) BEC 攻擊，尤其是由 AI 增強(qiáng)的攻擊，要讓員工了解到 BEC 攻擊的威脅，以及 AI 將如何加大這種威脅的原理。

（2）強(qiáng)化電子郵件的驗(yàn)證措施：為防范 AI 驅(qū)動(dòng)的 BEC 攻擊，企業(yè)應(yīng)執(zhí)行嚴(yán)格的電子郵件驗(yàn)證流程，例如當(dāng)有來自組織外部的電子郵件冒充內(nèi)部高管或供應(yīng)商時(shí)，系統(tǒng)要自動(dòng)發(fā)出警報(bào)等。

AI 領(lǐng)域仍存在不少挑戰(zhàn)和局限性

而事實(shí)上，除了上文提到的 WormGPT 編寫惡意軟件、助力 BEC 攻擊以外，上個(gè)月 ChatGPT 的“奶奶漏洞”也證實(shí)了一個(gè)事實(shí)：盡管 OpenAI 等公司都對(duì) AI 技術(shù)做出了許多限制措施，但目前還是無法完全避免這類漏洞的出現(xiàn)。

上個(gè)月，一位名為 Sid 的用戶發(fā)現(xiàn)，只要讓 ChatGPT 扮演其過世祖母講睡前故事，就能順利騙出 Windows 10 Pro 密鑰。

經(jīng)過 Sid 的分享后，越來越多用戶發(fā)現(xiàn)了這個(gè)漏洞，并開始嘗試欺騙 ChatGPT 報(bào)出 Windows 11 序列號(hào)，其中許多人都成功了。據(jù)了解，雖然這些密鑰大多是無效的，但有少量序列號(hào)也確實(shí)是真實(shí)可用的。

不論是 ChatGPT 的“奶奶漏洞”，還是“網(wǎng)絡(luò)犯罪分子專用”的 WormGPT 的出現(xiàn)，都證明了至少現(xiàn)階段 AI 領(lǐng)域仍存在不少挑戰(zhàn)和局限性。為此，一方面，研究人員需繼續(xù)深入相關(guān)技術(shù)，在提高數(shù)據(jù)質(zhì)量、優(yōu)化算法的同時(shí)，充分考慮倫理道德層面的影響。另一方面，作為用戶的我們也應(yīng)時(shí)刻保持謹(jǐn)慎，避免對(duì) AI 產(chǎn)生過度依賴。

參考鏈接：

https://slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/

https://www.pcgamer.com/chatgpts-evil-twin-wormgpt-is-devoid-of-morals-and-just-dollar60-a-month-on-the-darkweb/