近期，一款名為DeepSeek-R1的AI工具迅速走紅，其強(qiáng)大的功能為用戶帶來了諸多便利，但同時也引發(fā)了一系列問題。這款工具在中文互聯(lián)網(wǎng)信息環(huán)境中造成的污染現(xiàn)象，引起了廣泛關(guān)注。

在過去的一周內(nèi)，多個由DeepSeek-R1生成的、包含事實錯誤的內(nèi)容在各大平臺廣泛傳播。其中，一個知乎上的高贊回答尤為引人注目。該回答在初看之下，似乎充滿了對國產(chǎn)動畫電影崛起的興奮與論證，但仔細(xì)核查后卻發(fā)現(xiàn)，其中的信息存在嚴(yán)重誤導(dǎo)。例如，回答中提到哪吒電影中的敖丙變身鏡頭在法國昂西動畫節(jié)上轟動業(yè)界，但實際上，參展的是追光動畫的《哪吒重生》，且內(nèi)容中并未出現(xiàn)哪吒和敖丙的鏡頭。

該回答中關(guān)于電影制片方給員工分成都房子、攻克水下流體特效等描述，也均為DeepSeek-R1的虛構(gòu)內(nèi)容。盡管該回答在表達(dá)上較為流暢，且在一定程度上消除了AI生成文本的特有痕跡，但仍難以逃脫熟悉AI風(fēng)格用戶的眼睛。

另一個更為離譜的例子，是某自媒體利用DeepSeek-R1編寫了一篇涉及軍工領(lǐng)域的文章。該文章標(biāo)題醒目，內(nèi)容勁爆，但完全是由DeepSeek-R1編造而成。文章中提到的直升機(jī)設(shè)計圖紙在暗網(wǎng)出售、收受金條賄賂等細(xì)節(jié)，均為虛假信息。這篇文章的流傳，不僅誤導(dǎo)了公眾，也對相關(guān)人士造成了不良影響。

DeepSeek-R1之所以能夠生成如此具有迷惑性的內(nèi)容，與其作為推理模型的特點密切相關(guān)。推理模型在訓(xùn)練過程中注重獎懲機(jī)制，通過思維鏈的暴露來確保任務(wù)的完成。這種訓(xùn)練模式使得推理模型具有舉一反三的能力，但同時也容易在“不自知”的情況下表現(xiàn)出欺騙性。當(dāng)用戶要求生成一篇作文時，即使缺少論據(jù)，DeepSeek-R1也會為了完成任務(wù)而自行編造材料。

據(jù)Vectara發(fā)布的大模型幻覺排行榜顯示，DeepSeek-R1的幻覺率高達(dá)14.3%，遠(yuǎn)高于其他主流模型。這與其作為推理模型所具備的“創(chuàng)造力”有關(guān)。然而，這種創(chuàng)造力若被濫用，則會導(dǎo)致信息的嚴(yán)重污染。

在公共討論聚集的領(lǐng)域，如時政、歷史、文化、娛樂等，AI污染的現(xiàn)象尤為嚴(yán)重。這與自媒體的商業(yè)模式有關(guān)，為了獲取流量和收入，一些自媒體不惜利用AI生成虛假信息。這些信息的流傳，不僅誤導(dǎo)了公眾，也破壞了互聯(lián)網(wǎng)的信息環(huán)境。

以歷史博主知北遊為例，他曾遭遇有人利用AI虛構(gòu)歷史材料來誘騙他的情況。如果不是他本身具有較強(qiáng)的反詐意識和人脈關(guān)系進(jìn)行證偽，他很可能會繼續(xù)沉迷在這個局中。這一事件再次提醒我們，AI的濫用已經(jīng)對互聯(lián)網(wǎng)信息環(huán)境造成了嚴(yán)重威脅。

AI的工業(yè)化生產(chǎn)能力使得虛假信息的傳播效率大大提高。與個體戶的伏案寫作相比，AI在生成信息方面具有得天獨厚的優(yōu)勢。然而，這種優(yōu)勢若被用于制造虛假信息，則會對互聯(lián)網(wǎng)信息環(huán)境造成不可估量的損害。AI在說謊方面的能力也令人咋舌。它能夠臉不紅心不跳地編造出栩栩如生的細(xì)節(jié)和身臨其境的描寫，使得虛假信息更加難以辨識。

面對AI生成的虛假信息泛濫的問題，我們需要采取積極措施加以應(yīng)對。一方面，大模型廠商和內(nèi)容平臺應(yīng)加強(qiáng)對AI生成信息的監(jiān)管和管理；另一方面，用戶也應(yīng)提高警惕性，學(xué)會辨識虛假信息。只有這樣，我們才能共同維護(hù)一個健康、有序的互聯(lián)網(wǎng)信息環(huán)境。