YouTube,這一全球首屈一指的視頻分享平臺(tái),近期遭遇了前所未有的挑戰(zhàn):在為用戶帶來(lái)無(wú)盡娛樂(lè)的同時(shí),如何有效保護(hù)兒童免受不適宜內(nèi)容的侵害。近日,《連線》雜志的深度調(diào)查報(bào)道,揭示了YouTube上針對(duì)兒童內(nèi)容的一個(gè)令人憂慮的新動(dòng)向,引發(fā)了社會(huì)各界的廣泛關(guān)注。
據(jù)報(bào)道,一些專門面向兒童的YouTube頻道,正悄然利用人工智能技術(shù),制作出一系列令人不安的視頻。這些頻道,諸如“Go Cat”,表面上看似充滿了童趣與歡樂(lè),以小黃人、托馬斯小火車等廣受歡迎的卡通形象為主角,實(shí)則暗藏玄機(jī)。通過(guò)AI技術(shù)的“再加工”,這些原本可愛(ài)的角色被扭曲成了帶有恐怖元素的存在,諸如小黃人被核廢料溶解后變身下水道怪物、溫順貓咪目睹家庭悲劇等觸目驚心的場(chǎng)景,頻頻出現(xiàn)在視頻中。
盡管YouTube明文規(guī)定,所有內(nèi)容均需遵循其嚴(yán)格的社區(qū)準(zhǔn)則,明確禁止向兒童展示不適宜內(nèi)容,然而,這一規(guī)定的執(zhí)行效果卻大打折扣。隨著AI視頻生成技術(shù)的日新月異,即便某些違規(guī)頻道被封禁或剝奪廣告收益,其背后的創(chuàng)作者也能迅速“改頭換面”,創(chuàng)建新頻道繼續(xù)上傳類似視頻。更令人擔(dān)憂的是,這些視頻不僅觀看量驚人,評(píng)論區(qū)還充斥著大量疑似機(jī)器人的評(píng)論,暗示這些視頻的受歡迎程度可能并非自然形成,而是被人為操縱,這或許正是這些頻道得以“死灰復(fù)燃”的原因之一。
面對(duì)這一嚴(yán)峻形勢(shì),專家呼吁家長(zhǎng)們應(yīng)加強(qiáng)對(duì)孩子媒體消費(fèi)的監(jiān)管,確保他們觀看的內(nèi)容符合年齡階段。同時(shí),一旦發(fā)現(xiàn)不適宜的視頻,應(yīng)立即利用平臺(tái)提供的舉報(bào)功能,以便YouTube能夠及時(shí)介入審查并采取相應(yīng)措施。
專家還指出,平臺(tái)方也應(yīng)加大對(duì)違規(guī)內(nèi)容的打擊力度,利用更先進(jìn)的技術(shù)手段提高內(nèi)容審核的準(zhǔn)確性和效率,從源頭上遏制不適宜兒童內(nèi)容的傳播。
同時(shí),社會(huì)各界也應(yīng)共同參與到這一問(wèn)題的解決中來(lái),形成合力,為兒童營(yíng)造一個(gè)更加健康、安全的網(wǎng)絡(luò)環(huán)境。
值得注意的是,盡管挑戰(zhàn)重重,但只要我們攜手努力,就一定能夠?yàn)楹⒆觽冎鹨坏缊?jiān)實(shí)的防線,讓他們?cè)谙硎芫W(wǎng)絡(luò)帶來(lái)的樂(lè)趣的同時(shí),遠(yuǎn)離不適宜內(nèi)容的侵害。