在互聯(lián)網(wǎng)的浩瀚信息海洋中，生成式人工智能（AI）的浪潮正以前所未有的速度席卷而來，使得辨別信息的真?zhèn)巫兊萌找婕?。為了?yīng)對AI內(nèi)容可能帶來的網(wǎng)絡(luò)污染問題，各方力量正積極尋求解決方案。近日，互聯(lián)網(wǎng)工程任務(wù)組（IETF）發(fā)布了一項名為《AI內(nèi)容披露標(biāo)頭》的草案，旨在通過在網(wǎng)頁HTTP響應(yīng)中添加可機讀的標(biāo)記，來標(biāo)識內(nèi)容的AI生成屬性。

據(jù)IETF介紹，這一標(biāo)記設(shè)計用于與HTTP結(jié)構(gòu)化字段語法兼容，其目的在于向用戶代理、網(wǎng)絡(luò)爬蟲及歸檔系統(tǒng)等提供關(guān)于AI在內(nèi)容生成中參與度的元數(shù)據(jù)。這些系統(tǒng)可以根據(jù)自身需求，決定是否接受或處理AI生成的內(nèi)容。此舉直擊AI領(lǐng)域的一大痛點：不同AI產(chǎn)品間的虛假內(nèi)容循環(huán)引用，可能導(dǎo)致虛假信息被誤認(rèn)為是真實，進(jìn)而擾亂整個互聯(lián)網(wǎng)的內(nèi)容生態(tài)。

AI之所以會“信口開河”，很大程度上源于其作為“概率預(yù)測機”的本質(zhì)。AI大模型通過海量數(shù)據(jù)訓(xùn)練學(xué)習(xí)詞語間的關(guān)聯(lián)規(guī)律，但在處理不常見或復(fù)雜信息時，可能會因缺乏足夠依據(jù)而“憑空創(chuàng)造”。當(dāng)面對用戶提問，AI若無法找到確切答案，便會傾向于生成一個概率上看起來最合理的答案，而非事實正確的答案。這種傾向性導(dǎo)致AI輸出的內(nèi)容往往看似合理，實則可能偏離事實。

AI幻覺現(xiàn)象雖難以完全避免，但已成為業(yè)界關(guān)注的焦點。更令人擔(dān)憂的是，當(dāng)多個AI產(chǎn)品開始相互引用這些虛假內(nèi)容時，一個虛假的閉環(huán)便可能形成，使得虛構(gòu)的信息逐漸被接受為真實。例如，近期一起關(guān)于明星王一博的謠言事件，就是由于AI在沒有核實事實的情況下，基于語義關(guān)聯(lián)性自動補全了內(nèi)容，最終被另一款A(yù)I工具ChatGPT戳穿。

ChatGPT之所以能夠在此次事件中發(fā)揮事實核查的作用，關(guān)鍵在于它與生成虛假道歉聲明的AI使用了不同的訓(xùn)練數(shù)據(jù)。換句話說，ChatGPT因未被虛假內(nèi)容污染，所以能夠輸出真實信息。然而，如果OpenAI的爬蟲GPTBot抓取到了虛假的“道歉聲明”，結(jié)果或?qū)⒋笙鄰酵?。?dāng)前，為了提升模型智能度，AI廠商的爬蟲幾乎不加甄別地抓取數(shù)據(jù)，即使其中包含有害的虛假信息。

這種做法在學(xué)術(shù)界已引發(fā)“引用農(nóng)場”現(xiàn)象，即通過相互引用將低質(zhì)量論文塑造成高影響力論文。同樣，當(dāng)AI開始相互引用虛假內(nèi)容時，用戶將深受其害。IETF此次提出的《AI內(nèi)容披露標(biāo)頭》草案，旨在從源頭上阻止AI生成的虛假和垃圾內(nèi)容回流至互聯(lián)網(wǎng)，避免它們成為訓(xùn)練新AI模型的數(shù)據(jù)，從而陷入“垃圾進(jìn)、垃圾出”的惡性循環(huán)。

具體而言，IETF要求在HTTP文件中聲明AI模型的名稱、提供者、校驗團(tuán)隊及時間戳等信息，以此防止AI廠商的爬蟲錯誤地抓取AI生成的內(nèi)容。實際上，AI廠商同樣不希望抓取到AI內(nèi)容，以免污染其訓(xùn)練數(shù)據(jù)。從某種程度上講，《AI內(nèi)容披露標(biāo)頭》草案與AI水印有相似之處，都是從內(nèi)容生產(chǎn)和傳播的起點入手，為“AI生成”內(nèi)容打上獨特的識別標(biāo)簽。

相較于技術(shù)實現(xiàn)難度較高的AI水印，要求網(wǎng)站主動披露內(nèi)容是否由AI生成顯然更加可行。關(guān)鍵在于，IETF作為負(fù)責(zé)互聯(lián)網(wǎng)標(biāo)準(zhǔn)制定與推廣的行業(yè)組織，其影響力不容小覷。HTTP和IPv6等互聯(lián)網(wǎng)基礎(chǔ)協(xié)議均出自IETF之手，可以說，當(dāng)今的互聯(lián)網(wǎng)是建立在IETF工作成果之上的。因此，IETF提出的這一草案，有望為凈化網(wǎng)絡(luò)內(nèi)容生態(tài)、遏制AI虛假信息的傳播發(fā)揮重要作用。