最近，有粉絲向上海辟謠平臺(tái)舉報(bào)，稱圈群中有人傳播“上海退休教授靠陽臺(tái)核電池供電”假消息，希望公開辟謠。上海辟謠平臺(tái)調(diào)查發(fā)現(xiàn)，相關(guān)消息大概率是造謠者用AI技術(shù)編寫、制圖并剪輯視頻。在傳播者中，除了受誤導(dǎo)的網(wǎng)民，還有一些別有用心的傳謠者，他們通過續(xù)寫、點(diǎn)評(píng)等方式擴(kuò)大謠言負(fù)面效應(yīng)。
互聯(lián)網(wǎng)上，“上海退休教授靠陽臺(tái)核電池供電”的謠言主要有兩個(gè)版本，一個(gè)是圈群傳播的一張文字截屏，另一個(gè)短視頻平臺(tái)上的各種視頻。根據(jù)文字截屏內(nèi)容，該事件的起源是一條42秒的短視頻。
然而，在文字截屏提到的短視頻平臺(tái)上，記者沒有找到“老教授介紹核發(fā)電”的短視頻，但同主題的短視頻有不少，主要分成兩類：一類看似“真人出鏡”，但稍加查看就可發(fā)現(xiàn)，其實(shí)是用AI生成的圖片剪輯而成，有的短視頻上還帶有“疑似使用了AI生成技術(shù)，請(qǐng)謹(jǐn)慎甄別”的提示。
短視頻平臺(tái)的“真人演繹”，是AI生成的
短視頻平臺(tái)AI生成的視頻中，很多細(xì)節(jié)都暴露出它們是假的
另一類看似是“陽臺(tái)核發(fā)電原理分析”，但視頻素材要么是AI生成的圖片，要么是與核工業(yè)、科研相關(guān)的圖片，沒有一個(gè)鏡頭真正記錄了“老教授家的核發(fā)電機(jī)”。
短視頻平臺(tái)的“核發(fā)電機(jī)”也是虛構(gòu)圖片
而且，這兩類短視頻所配的文字與圈群傳播的文字截屏基本一致，只不過有一部分采用了AI配音，聽起來好像是人聲播報(bào)或介紹。
也就是說，文字截屏與短視頻構(gòu)成了“雞生蛋”“蛋生雞”的關(guān)系——文字截屏稱討論內(nèi)容來自短視頻，短視頻的內(nèi)容又引用了文字截屏，但兩個(gè)版本中都沒有真人真物。
謠言更多的漏洞可以從文字截屏中找到。例如，文字截屏稱“中核集團(tuán)”對(duì)該事件發(fā)布了聲明、“國(guó)家電網(wǎng)官微”也發(fā)出了警告?？墒牵楸橹泻思瘓F(tuán)、國(guó)家電網(wǎng)的各個(gè)官方發(fā)布渠道，都找不到任何與該事件相關(guān)的信息。
再如，文字截屏稱“平安產(chǎn)險(xiǎn)推出‘核能家財(cái)險(xiǎn)’”。但經(jīng)查詢比對(duì)，平安家財(cái)險(xiǎn)并沒有類似的保險(xiǎn)內(nèi)容；涉及核能的保險(xiǎn)產(chǎn)品僅與核工業(yè)生產(chǎn)相關(guān)，與家庭財(cái)產(chǎn)無關(guān)。
以上核查結(jié)果顯示，這條“上海退休教授靠陽臺(tái)核電池供電”的信息看似圖文并茂、細(xì)節(jié)充分，卻沒有一張圖片、一個(gè)細(xì)節(jié)經(jīng)得起推敲核查。再?gòu)男形娘L(fēng)格看，大概率是造謠者利用AI大模型生成。
然而，就是這樣一條幾乎“一眼假”的信息，卻引發(fā)了更多自媒體的狂歡。
在社交平臺(tái)和短視頻平臺(tái)，出現(xiàn)了大量以此為基礎(chǔ)的“二創(chuàng)”作品，不同自媒體進(jìn)行了五花八門的點(diǎn)評(píng)。而且，部分自媒體明知信源有假，特意在短視頻上打上“內(nèi)容來源于網(wǎng)絡(luò)”的標(biāo)簽，似乎就此撇清責(zé)任。
部分蹭熱點(diǎn)的自媒體聲明“內(nèi)容來源于網(wǎng)絡(luò)”，欲蓋彌彰
可是，基于壓根就不存在的事件進(jìn)行點(diǎn)評(píng)傳播，真的就沒有責(zé)任嗎？
翻看這類自媒體此前的作品，不難洞察他們的真實(shí)意圖——只要是熱點(diǎn)話題，就能見到他們的身影，有的還自封“**觀察員”。根本目的無非是緊抓熱點(diǎn)話題，以此作為噱頭，瘋狂地蹭熱度，從而博取大眾眼球。
更要提高警惕的是，部分自媒體在進(jìn)行“二創(chuàng)”時(shí)，除了夸大虛假內(nèi)容，還增加了具有挑撥性的語句和內(nèi)容，試圖以此撩撥網(wǎng)民情緒。他們不再滿足于追求賬號(hào)的熱度與流量，還暗藏了不可告人的企圖。
所以，并不存在的“上海退休教授靠陽臺(tái)核電池供電”一事，不僅提醒網(wǎng)民在AI時(shí)代要擦亮眼睛，不被所謂的細(xì)節(jié)和圖片所迷惑；也是給平臺(tái)敲響警鐘：既要管控原生謠言，更要對(duì)基于謠言的“二創(chuàng)”內(nèi)容強(qiáng)化管理。
【記者手記】
在信息傳播的領(lǐng)域中，一直流傳著這么一句話，“造謠張張嘴，辟謠跑斷腿”。到了當(dāng)下 AI 時(shí)代，這樣的現(xiàn)象愈發(fā)凸顯，造謠變得前所未有的“簡(jiǎn)單”——如今，很多大模型功能強(qiáng)大得超乎想象，只要使用者提出要求，它們?cè)诓坏揭环昼姷臉O短時(shí)間內(nèi)，就能洋洋灑灑地生成一篇長(zhǎng)達(dá)數(shù)千字且 “細(xì)節(jié)滿滿” 的謠言文章。更為甚者，這些大模型還能依據(jù)指令，進(jìn)一步生成與之對(duì)應(yīng)的逼真圖片乃至動(dòng)態(tài)視頻，以假亂真的程度足以迷惑眾多不明真相的群眾。
與之形成鮮明對(duì)比的是，辟謠的難度呈幾何倍數(shù)增長(zhǎng)——除了假消息太多外，還會(huì)發(fā)現(xiàn)大模型在辟謠時(shí)很不給力。當(dāng)人們?cè)噲D借助大模型進(jìn)行求證辟謠時(shí)，會(huì)發(fā)現(xiàn)大模型在學(xué)習(xí)過程中，獲取的信息包含了那些惡意編造的謠言。由于大模型本身并不具備判斷信息真假的能力，所以無法像人類一樣憑借經(jīng)驗(yàn)和理性去甄別是非真?zhèn)?，給出的結(jié)論要么似是而非，要么自相矛盾。最終，辟謠工作還得依靠人工逐一進(jìn)行核查，耗費(fèi)大量時(shí)間和人力成本。
面對(duì)如此嚴(yán)峻的困境，必須從問題源頭入手，采取強(qiáng)有力的措施加以解決。
首先，對(duì)造謠者必須予以嚴(yán)查嚴(yán)懲。要讓這些惡意擾亂信息秩序、造成不良社會(huì)影響的人付出沉重的代價(jià)，通過法律的威懾力來遏制他們的造謠沖動(dòng)。
其次，平臺(tái)肩負(fù)著不可推卸的責(zé)任。相關(guān)平臺(tái)需要加大審核力度，構(gòu)建更為嚴(yán)密的審核機(jī)制，對(duì)于各類謠言以及謠言衍生出的 “二創(chuàng)” 內(nèi)容，一律禁止發(fā)布，并及時(shí)下架已存在的相關(guān)信息，從而切斷謠言傳播的渠道。
再者，大模型的開發(fā)者要積極行動(dòng)起來。通過先進(jìn)的技術(shù)手段，比如設(shè)置嚴(yán)格的使用權(quán)限、智能識(shí)別異常操作等方式，制止那些別有用心者利用大模型進(jìn)行造假行為，從技術(shù)根源上減少謠言產(chǎn)生的可能性。
總而言之，在AI蓬勃發(fā)展的時(shí)代，要想做好辟謠工作，不能再靠事后核查的單一手段。必須往前一步，從懲治造謠者、督促平臺(tái)作為、推動(dòng)技術(shù)防控等多個(gè)維度協(xié)同發(fā)力，從源頭減少謠言。如此才能在復(fù)雜的信息環(huán)境中，有效遏制謠言的滋生與傳播，還大眾一個(gè)真實(shí)、清朗的信息空間。
