據(jù)1月12日央視新聞報(bào)道，近日，西藏日喀則市定日縣發(fā)生6.8級(jí)地震后，一系列“小男孩被埋圖”在網(wǎng)絡(luò)上廣泛傳播。經(jīng)公安機(jī)關(guān)核查，上述圖片由AI工具創(chuàng)作，青海某網(wǎng)民將其與日喀則地震信息進(jìn)行關(guān)聯(lián)拼湊，引發(fā)謠言擴(kuò)散。目前，該涉案人員已被屬地公安機(jī)關(guān)依法行政拘留。警方核查發(fā)現(xiàn)，此次地震后，多地網(wǎng)民參與發(fā)布地震造謠信息多達(dá)數(shù)百條，有的用以往地震現(xiàn)場(chǎng)畫面假冒定日災(zāi)區(qū)現(xiàn)場(chǎng)、有的是“走在路上親歷地震瞬間”，還有夸大死傷人數(shù)、預(yù)測(cè)地震、嫁接視頻等制造虛假信息的情形，其中不乏AI工具參與創(chuàng)作的影子。
地震發(fā)生后，一些號(hào)稱來(lái)自災(zāi)區(qū)的視頻、圖文信息無(wú)疑極具關(guān)注度和影響力�！靶∧泻⒈宦駡D”的廣泛傳播，令人們?cè)揪碗y過(guò)的心情再添一層陰云。在某短視頻平臺(tái)，以該系列圖片為內(nèi)容的發(fā)布者多達(dá)數(shù)十名，有的單條作品獲得上萬(wàn)轉(zhuǎn)評(píng)贊數(shù)據(jù)，很多網(wǎng)友追問(wèn)“小孩怎么樣了”。
其實(shí)，每次發(fā)生地震、泥石流等地質(zhì)災(zāi)害，暴雨等極端天氣災(zāi)害以及一些重大事故時(shí)，往往都有謠言見縫插針，隨意編造遇難人數(shù)、惡意揣測(cè)成因或“移花接木”相關(guān)視頻等，目的多是收割關(guān)注度，實(shí)現(xiàn)流量變現(xiàn)。
讓造謠者付出代價(jià)，是人們的共同心聲，但很多時(shí)候，謠言還是跑在了真相前面，造謠有時(shí)甚至成了一門生意。時(shí)下，AI生成內(nèi)容門檻低、可定制、識(shí)別難，文生圖、圖生視頻、爆改視頻易如反掌。短視頻時(shí)代，信息的傳播僅需“輕點(diǎn)一下”，不少人并不會(huì)認(rèn)真鑒別真?zhèn)危@也加劇了虛假信息的病毒式擴(kuò)散。
在類似地震這種重大事件面前，謠言的危害不容小覷。首先，制造虛假熱點(diǎn)，惡意消費(fèi)公眾的注意力和同情心，還有人設(shè)下愛(ài)心捐款類騙局。其次，干擾一線救援工作秩序和節(jié)奏，影響信息的搜集研判以及救援力量的分配。再有，謠言對(duì)于各戰(zhàn)線的救災(zāi)人員、遇難者及其親屬而言，是極大的不尊重，甚至可能造成二次傷害。還需注意的是，“謠言—流量—變現(xiàn)”的路徑可能帶來(lái)一些負(fù)面激勵(lì)，比如，此番“小男孩被埋圖”剛辟謠，就有網(wǎng)民發(fā)布“過(guò)段時(shí)間就到××地方了，經(jīng)驗(yàn)之談”“300多年就會(huì)來(lái)一次大的，兩次了”等言論。
隨著謠言生產(chǎn)越來(lái)越低成本和批量化，公眾必須提高警惕，多一些思辨，少一些隨意轉(zhuǎn)發(fā)，對(duì)沒(méi)有權(quán)威出處的信息尤須審慎。長(zhǎng)遠(yuǎn)看，針對(duì)AI工具參與謠言制造與傳播，更需加強(qiáng)技術(shù)對(duì)抗。一方面，隨著AI接受的基礎(chǔ)素材“投喂”越來(lái)越多，其生成的信息就會(huì)越來(lái)越逼真，相應(yīng)的識(shí)別和打擊工作會(huì)更難，有關(guān)部門須從技術(shù)對(duì)抗的視角思考如何有效管理生成式人工智能技術(shù)及其產(chǎn)品，對(duì)不良苗頭早防早治、打早打��；另一方面，相關(guān)平臺(tái)應(yīng)完善技術(shù)手段，加強(qiáng)對(duì)深度合成內(nèi)容的管理——當(dāng)前，不少平臺(tái)對(duì)AI生成信息要么沒(méi)有提示，要么字體極小，有的審核機(jī)制滯后甚至“先發(fā)后審”，給謠言傳播留下了較大空間。近幾年，國(guó)家有關(guān)部門出臺(tái)了深度合成服務(wù)管理規(guī)定、生成式人工智能服務(wù)管理規(guī)定等，都明確不得用AI方式或者深度合成方式去炮制謠言，不得把AI手段作為傳播謠言的方式。
近年來(lái)，關(guān)于如何讓AI技術(shù)向上向善屢屢引發(fā)熱議。“AI賦能”對(duì)普通人而言，究竟是利好更多還是“韭菜味兒”更多，往往與技術(shù)開發(fā)和應(yīng)用的一方秉持何種價(jià)值觀、發(fā)展觀，以及有關(guān)平臺(tái)和監(jiān)管方面的作為有很大關(guān)系。無(wú)論是“逢大事便有謠言”還是“逢謠言便有AI”都提示我們，治標(biāo)更要治本，要以前瞻性思維布局謀劃，讓打擊治理謠言事半功倍。
災(zāi)難話題是嚴(yán)肅的、凝重的，有關(guān)方面絕不應(yīng)容許“吃流量饅頭”的次生災(zāi)害一再發(fā)生，相關(guān)不法行為也須受到懲處。這是規(guī)范網(wǎng)絡(luò)秩序，讓社會(huì)更文明、更法治的需要，也是減少公眾恐慌，讓社會(huì)有更多信任、更多良知的需要。
