IT之家 7 月 21 日消息，據(jù)路透社報(bào)道，美國(guó)政府今日宣布，已獲得多家人工智能頭部公司的自愿承諾，將對(duì)人工智能生成的內(nèi)容加水印等措施，以幫助提高技術(shù)的安全性。

亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意提高其系統(tǒng)的安全性和透明度，包括允許第三方專家對(duì)其模型進(jìn)行審查。

在發(fā)給 TechRadar 的一份聲明中，美國(guó)政府表示：“正在開(kāi)發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國(guó)政府鼓勵(lì)該行業(yè)堅(jiān)持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會(huì)以犧牲美國(guó)人的權(quán)利和安全為代價(jià)?！?/span>

首先，這七家公司承諾在向公眾發(fā)布 AI 系統(tǒng)之前，對(duì)其進(jìn)行內(nèi)部和外部安全測(cè)試，并與相關(guān)行業(yè)參與者、政府、學(xué)術(shù)界和公眾共享信息，以幫助管理人工智能風(fēng)險(xiǎn)。

這些公司還將致力于網(wǎng)絡(luò)安全投資和內(nèi)部威脅控制，以“保護(hù)專有和未發(fā)布的模型權(quán)重”，這對(duì)于驅(qū)動(dòng)生成人工智能的數(shù)據(jù)模型的運(yùn)行至關(guān)重要。他們還同意促進(jìn)第三方調(diào)查并報(bào)告系統(tǒng)中的任何安全漏洞。

七家公司還同意采取措施提高公眾對(duì)其系統(tǒng)的信任，包括開(kāi)發(fā)一種方法來(lái)確保讓人們知道，他們何時(shí)看到人工智能生成的內(nèi)容，例如水印或其他措施。這些公司還將優(yōu)先研究人工智能模型帶來(lái)的社會(huì)風(fēng)險(xiǎn)，包括可能導(dǎo)致的種族歧視和其他形式的偏見(jiàn)，以及“保護(hù)隱私”。

不過(guò)IT之家從公告中發(fā)現(xiàn)，這些承諾都是相關(guān)企業(yè)自愿采取的措施，而且沒(méi)有違反的懲罰措施，因此并不能百分百保證嚴(yán)格執(zhí)行。