近期，人工智能大模型在各行各業(yè)的應(yīng)用日益廣泛，尤其在金融領(lǐng)域，為股民提供了獲取上市公司信息的便捷途徑。然而，在這股技術(shù)浪潮之下，股市中的不法分子卻找到了新的作惡手段，他們利用AI技術(shù)散布虛假信息，誘導(dǎo)散戶投資者做出錯(cuò)誤判斷。
據(jù)觀察，本月以來，各大股民交流平臺上充斥著大量以AI問答截圖形式傳播的虛假“利好信息”。這些信息的發(fā)布者，即所謂的“股市黑嘴”，通過操控多個(gè)賬號，在各大論壇、貼吧等平臺瘋狂散布諸如某公司入股某科技公司等謠言，以此誤導(dǎo)AI大模型生成錯(cuò)誤回答。隨后，這些被“調(diào)教”過的AI答案被進(jìn)一步傳播，成為坑騙散戶的“信息陷阱”。
值得注意的是，這些虛假信息已經(jīng)從最初的易于辨識逐漸升級為真假難辨，尤其是當(dāng)謠言涉及的上市公司未主動(dòng)澄清時(shí)，普通投資者往往難以分辨信息的真?zhèn)?。一旦AI大模型被這些虛假語料誤導(dǎo)，當(dāng)投資者提出類似問題時(shí)，所得到的答案很可能就是黑嘴們之前炮制的虛假內(nèi)容。
以幾家上市公司為例，近期包括慈星股份、華勝天成、并行科技、誠邁科技以及三六零在內(nèi)的多家公司被“黑嘴”盯上，成為AI謠言的主角。其中，慈星股份、華勝天成和三六零均被造謠稱“投資了某科技公司”，而實(shí)際上，這些所謂的“投資”純屬子虛烏有。盡管多數(shù)上市公司及時(shí)進(jìn)行了辟謠澄清，但慈星股份對于涉及該謠言的提問卻選擇了沉默，這一反常行為引發(fā)了市場的廣泛猜測。
除了直接造謠“投資”外，“黑嘴”們還炮制了一些更具迷惑性的假消息，如聲稱某IT服務(wù)商為某科技公司提供了底層算力支持，或某公司的關(guān)聯(lián)公司與某科技公司有合作等。這些謠言往往通過混淆概念，使得投資者難以分辨真?zhèn)?。幸運(yùn)的是，相關(guān)公司均及時(shí)進(jìn)行了辟謠澄清。
在深入調(diào)查后，記者發(fā)現(xiàn)這類虛假信息的炮制過程相當(dāng)復(fù)雜。“黑嘴”們通過多個(gè)賬號有組織地在各大平臺散布不實(shí)內(nèi)容，并通過高頻率、大規(guī)模的傳播，使這些不實(shí)內(nèi)容被AI大模型納入語料庫。隨后，他們再利用AI生成的虛假回答進(jìn)行二次傳播，從而大幅提升了普通投資者對假消息的辨識難度。
最后，市場監(jiān)管者也應(yīng)積極應(yīng)對這一新情況，運(yùn)用AI等技術(shù)手段嚴(yán)查嚴(yán)管，對以虛假信息操縱市場的行為予以嚴(yán)厲打擊，確保市場的公平、公正和透明。
