人工智能正制造網(wǎng)絡(luò )垃圾：低質(zhì)量AI生成網(wǎng)站獲廣告支撐迅猛發(fā)展

(資料圖)

新聞網(wǎng)站評級工具NewsGuard發(fā)布2023年6月的錯誤信息監控結果，稱(chēng)141個(gè)品牌正在向低質(zhì)量的人工智能(AI)生成的網(wǎng)站提供廣告收入，來(lái)支持這些不可靠網(wǎng)站的發(fā)展。

這些網(wǎng)站在幾乎沒(méi)有人監督的情況下運行，每天平均生成上千條文章，其中包括錯誤信息，特別是誤導用戶(hù)的醫療健康信息。

科技媒體The Verge稱(chēng)，人工智能正在扼殺舊網(wǎng)絡(luò )，而新網(wǎng)絡(luò )正在掙扎著(zhù)誕生，“生成式人工智能模型正在改變網(wǎng)絡(luò )經(jīng)濟，使生成低質(zhì)量?jì)热葑兊酶阋?。我們才剛剛開(kāi)始看到這些變化的影響。”

NewsGuard分析發(fā)現，發(fā)布在A(yíng)I生成內容網(wǎng)站上的廣告似乎是以編程方式生成的，這意味著(zhù)公司不是選擇將其廣告投放在這些網(wǎng)站上，而是通過(guò)投放廣告的系統自動(dòng)定位。大多數廣告是由谷歌的工具投放的。

NewsGuard將不可靠的AI生成新聞和信息網(wǎng)站(UAIN)定義為，在很少或沒(méi)有人類(lèi)監督的情況下運行的網(wǎng)站，并發(fā)布主要或完全由機器人撰寫(xiě)的文章。就在上個(gè)月，NewsGuard分析師將新推出的UAIN網(wǎng)站跟蹤器上的網(wǎng)站數量從49個(gè)更新為217個(gè)。

盡管許多廣告商及其廣告代理商維護著(zhù)“品牌不安全”網(wǎng)站的“排除列表”，但這些列表往往沒(méi)有保持最新?tīng)顟B(tài)，顯然沒(méi)有跟上UAIN網(wǎng)站激增的步伐。

2023年5月和6月，NewsGuard分析師確定了來(lái)自141個(gè)主要品牌的393個(gè)程序化廣告(programmatic ad，利用技術(shù)手段實(shí)現數字廣告購買(mǎi)和銷(xiāo)售的過(guò)程)，這些廣告出現在NewsGuard確定的217個(gè)UAIN網(wǎng)站中的55個(gè)上。NewsGuard發(fā)現的廣告，提供給了美國、德國、法國和意大利四個(gè)國家的互聯(lián)網(wǎng)分析師。

一家運動(dòng)服裝公司的廣告出現在NoticiasDeEmprego.com.br網(wǎng)站上，這是一家UAIN網(wǎng)站，發(fā)布由人工智能生成的關(guān)于巴西工作機會(huì )的新聞。NewsGuard用一個(gè)黑塊屏蔽了這個(gè)程序化廣告。

NewsGuard沒(méi)有點(diǎn)名提供這些廣告的公司，它們包括各種各樣的藍籌廣告商：6家大型銀行和金融服務(wù)公司、4家豪華百貨公司、3家運動(dòng)服裝領(lǐng)先品牌、3家電器制造商、兩家世界上最大的消費技術(shù)公司、兩家全球電子商務(wù)公司、兩家美國頂級寬帶提供商、美國廣播網(wǎng)絡(luò )提供的3家流媒體服務(wù)、一個(gè)硅谷數字平臺和一家歐洲大型連鎖超市。

程序化廣告使用算法和高級拍賣(mài)流程，直接向個(gè)人用戶(hù)而不是特定網(wǎng)站提供具有高度針對性的數字廣告。這意味著(zhù)廣告在用戶(hù)瀏覽互聯(lián)網(wǎng)時(shí)有效地“關(guān)注”他們。 由于這個(gè)過(guò)程非常不透明，品牌可能不知道他們正在資助UAIN網(wǎng)站的傳播，因為廣告是通過(guò)第三方購買(mǎi)的，并且涉及多個(gè)中介機構。

NewsGuard發(fā)現的所有393個(gè)廣告都直接出現在包含由AI生成的錯誤信息的文章旁邊。

一些出現主要品牌廣告的UAIN網(wǎng)站似乎使用人工智能工具重寫(xiě)主流新聞媒體的文章。例如，AlaskaCommons.com發(fā)表的一篇文章似乎是英國小報《太陽(yáng)報》美國版文章的AI重寫(xiě)版本，連圖片和措辭都類(lèi)似。AlaskaCommons.com的文章經(jīng)常將作者名寫(xiě)為Ingrid Taylor，自今年年初以來(lái)，這位“作者”已經(jīng)發(fā)表了4364篇文章，其中僅在2023年6月15日一天就發(fā)表了108篇文章。

一些網(wǎng)站平均每天生成超過(guò)1200篇文章，幾乎沒(méi)有明顯的人工編輯監督。相比之下，根據2022年4月的數據，《紐約時(shí)報》通常每天發(fā)表約150篇文章。

大多數AI生成的網(wǎng)站質(zhì)量低，但不會(huì )傳播錯誤信息。然而，NewsGuard發(fā)現，MedicalOutline.com推廣未經(jīng)證實(shí)和潛在有害的自然健康療法，標題如“檸檬能治愈皮膚過(guò)敏嗎?”“ADHD的5種自然療法是什么?”和“你如何自然地預防癌癥。”

對于UAIN網(wǎng)站來(lái)說(shuō)，快速將其內容貨幣化非常簡(jiǎn)單。在谷歌AdSense的登錄頁(yè)面上，谷歌稱(chēng)網(wǎng)站可以輕松地賺取程序化廣告收入：“您所要做的就是將AdSense代碼放入您的網(wǎng)站，它就會(huì )立即開(kāi)始工作。”

自2023年5月首次開(kāi)始跟蹤UAIN網(wǎng)站以來(lái)，NewsGuard每周已確定約25個(gè)新網(wǎng)站，5月初，其報告還只確定了49個(gè)“似乎幾乎完全由人工智能軟件編寫(xiě)”的網(wǎng)站。而UAIN網(wǎng)站的總數可能比NewsGuard目前識別的217個(gè)網(wǎng)站多得多。

一家全球租車(chē)公司的廣告出現在FoodingWorld.com上，這是一個(gè)UAIN網(wǎng)站，發(fā)布AI生成的關(guān)于食物的文章。NewsGuard用黑塊擋住了這些程序化廣告。

如果一個(gè)網(wǎng)站符合以下所有4個(gè)標準，則NewsGuard將其視為不可靠的人工智能生成新聞和信息網(wǎng)站：第一，有明確的證據表明，該網(wǎng)站的很大一部分內容是由人工智能制作的;第二，有強有力的證據表明，內容是在沒(méi)有人類(lèi)監督的情況下發(fā)布的;第三，該網(wǎng)站的呈現方式讓普通讀者認為其內容是由人類(lèi)作家或記者制作的;第四，該網(wǎng)站沒(méi)有明確披露其內容是由人工智能制作的。

也不一定是壞事

近幾個(gè)月來(lái)，已有多家媒體報道AI生成內容正在污染互聯(lián)網(wǎng)。當地時(shí)間6月26日，The Verge高級記者詹姆斯·文森特(James Vincent)發(fā)表了一篇措辭激烈的評論文章。他寫(xiě)道：“ChatGPT正被用來(lái)生成全是垃圾的網(wǎng)站。Etsy(手工藝品電子商務(wù)網(wǎng)站)充斥著(zhù)‘AI生成的垃圾’。聊天機器人在錯誤信息的烏龍中相互引用。LinkedIn正在使用人工智能來(lái)刺激疲勞的用戶(hù)。Snapchat和Instagram希望機器人能在你朋友不在時(shí)與你交談……互聯(lián)網(wǎng)檔案館正在對抗數據刮刀，而人工智能正在把維基百科撕碎。舊的網(wǎng)絡(luò )正在消亡，而新的網(wǎng)絡(luò )正在掙扎著(zhù)誕生。”

文森特認為，當然，網(wǎng)絡(luò )多年來(lái)一直在死亡，被那些從網(wǎng)站上轉移流量的應用程序或獎勵“縮短注意力”的算法所扼殺。但在2023年，它又在消亡，一個(gè)新的催化劑在發(fā)揮作用：人工智能。

他打了一個(gè)比方：“網(wǎng)站創(chuàng )造了順暢的、功能豐富的平臺，并向任何人敞開(kāi)大門(mén)，讓他們加入。他們把盒子放在我們面前，我們用文字和圖片填滿(mǎn)這些盒子，人們就來(lái)看看這些盒子的內容。這些公司追逐規模，因為一旦有足夠的人聚集在任何地方，通常就有辦法從他們身上賺錢(qián)。但人工智能改變了這些假設。”

因為，只要有資金和計算能力，人工智能系統，尤其是目前流行的生成模型，可以毫不費力地進(jìn)行擴展。它們會(huì )產(chǎn)生大量文本和圖像，很快也會(huì )產(chǎn)生音樂(lè )和視頻。其產(chǎn)出有可能超過(guò)或勝過(guò)人們現在所依賴(lài)的新聞、信息和娛樂(lè )平臺。但這些系統的質(zhì)量往往很差。“這些模型是在上個(gè)網(wǎng)絡(luò )時(shí)代奠定的數據層上訓練出來(lái)的，它們對這些數據的再現并不完美。公司從開(kāi)放的網(wǎng)絡(luò )上搜刮信息，并將其提煉成機器生成的內容，這些內容生成成本低，但可靠性差。然后這種產(chǎn)品與之前的平臺和人爭奪注意力。”文森特指出。

最成功的網(wǎng)站往往是利用規模發(fā)揮其優(yōu)勢的網(wǎng)站，要么通過(guò)增加社會(huì )聯(lián)系或產(chǎn)品選擇，要么通過(guò)對構成互聯(lián)網(wǎng)本身的巨大信息群進(jìn)行分類(lèi)，但這種規模依賴(lài)于大量人類(lèi)來(lái)創(chuàng )造潛在價(jià)值，在大規模生產(chǎn)方面，人類(lèi)顯然無(wú)法擊敗人工智能。

但文森特最后也談到，這不一定是件壞事。“有人會(huì )說(shuō)，這只是世界運行的方式，指出網(wǎng)絡(luò )本身就扼殺了之前的東西，而且往往是為了更好的發(fā)展。例如，印刷版百科全書(shū)幾乎已經(jīng)絕跡，但我更喜歡維基百科的廣度和可及度，而不是《大英百科全書(shū)》的厚重感和安全感。對于所有與人工智能生成的寫(xiě)作有關(guān)的問(wèn)題，也有很多方法可以改進(jìn)它——從改進(jìn)引用功能到更多的人工監督。此外，即使網(wǎng)絡(luò )上充斥著(zhù)人工智能的垃圾，它也可能被證明是有益的，能刺激資金更充足的平臺發(fā)展。例如，如果谷歌在搜索中不斷給你提供垃圾結果，你可能會(huì )更傾向于為你信任的來(lái)源付費并訪(fǎng)問(wèn)它們。”

歸根結底，人工智能目前引起的變化只是網(wǎng)絡(luò )歷史上長(cháng)期斗爭的最新成果。從本質(zhì)上講，這是一場(chǎng)關(guān)于信息的戰斗——關(guān)于誰(shuí)制造信息，如何獲取信息，以及誰(shuí)獲得報酬。

標簽： 人工智能 網(wǎng)絡(luò )垃圾 低質(zhì)量AI生成網(wǎng)站