美國前總統(tǒng)特朗普被全副武裝的紐約防暴警察按倒在地的虛假圖片在推特等社交媒體平臺泛濫，表明目前缺乏企業(yè)標準或政府法規(guī)來解決使用AI制造和傳播謊言的問題。
圖為希金斯利用AI工具創(chuàng)建的虛假圖片。
(資料圖)
圖片來源：《財富》雜志網(wǎng)站
【今日視點】
近日，美國前總統(tǒng)特朗普被全副武裝的紐約防暴警察按倒在地的圖片在推特等社交媒體平臺泛濫，但這些看似細節(jié)豐富的圖片卻與事實毫不相干，這些圖片出自人工智能（AI）驅動的圖像生成技術。
專家們警告說，這些圖片昭示出一個新現(xiàn)實：在重大新聞事件發(fā)生后，虛假圖片和視頻有可能充斥社交媒體，進一步混淆事實，因此亟須部署相關技術并制訂相關政策，對類似技術進行監(jiān)管。
合成圖像真假難辨
據(jù)美國《財富》雜志網(wǎng)站報道，這些“特朗普被捕”的圖片由總部位于荷蘭的開源調查媒體“響鈴貓”網(wǎng)站的創(chuàng)辦人艾略特·希金斯生成。
當希金斯看到有關特朗普可能被捕的消息時，決定將其可視化。為此，他使用最新AI繪畫工具Midjourney制作了關于特朗普被捕的圖片。他表示，最新工具比之前的版本復雜得多，極大地改進了圖像的視覺效果。隨后他在推特上分享了合成結果：前總統(tǒng)被警察包圍的圖片，其中徽章做了模糊處理。據(jù)美國《華盛頓郵報》網(wǎng)站報道，僅兩天，希金斯發(fā)布的這條帖子被瀏覽了近500萬次。
人工智能專家表示，雖然處理并生成虛假圖片的技術并不新鮮，但該領域技術的進展速度以及人們對技術的濫用值得關注。數(shù)字內容分析公司Truepic的穆尼爾·易卜拉欣指出，“合成內容正在快速發(fā)展，真實和虛假內容之間的差距變得越來越難分辨”。
《財富》雜志指出，如今各種AI圖像生成工具變得觸手可及，它們可在用戶發(fā)出簡單指令后，迅速生成海量栩栩如生的圖片。例如，Midjourney這款文本到圖像模型現(xiàn)在可生成模仿新聞機構照片風格的圖像，如此一來，這些AI生成的圖片有望在混亂的新聞環(huán)境中“渾水摸魚”，混淆視聽。
關注錯誤信息傳播的華盛頓大學教授杰文·韋斯特說：“這的確會在危機期間增加‘噪音’。”
專業(yè)人士強調稱，大量制作虛假但看似可信的圖像的能力已有了巨大進步，而且很容易用于欺騙目的。很多時候，視覺信息會在沒有提供關鍵背景的情況下被快速轉發(fā)。事實上，一個關于“特朗普被捕”的虛假圖片帖子獲得的點贊數(shù)超過了7.9萬，“就好像這些照片是真的一樣”。
技術打擊“深度偽造”
希金斯認為，隨著合成圖像越來越難辨真假，對抗錯誤視覺信息的最佳方式是提高公眾的意識并加強這方面的教育，社交媒體公司可把重點放在開發(fā)能夠辨別AI生成圖像的新技術上，并將這種技術融入自己的平臺。
比如，推特出臺了相關政策，禁止用戶分享可能造成傷害的欺騙性和操縱性媒體內容，例如可能導致暴力、廣泛內亂或威脅個人隱私的推文。今年2月，推特推出了“社區(qū)筆記”功能，允許用戶在推文下方添加注釋，并且以長內容的形式進行解釋。有觀點認為，“社區(qū)筆記”或將能夠幫助推特成為更可信、讓更多人積極發(fā)言的平臺，并幫助減少假消息、誤導性內容的比例，以此吸引更多廣告投放。
另據(jù)《華盛頓郵報》報道，從2019年開始，主要科技公司加強了打擊“深度偽造”的政策。2020年，元宇宙平臺公司禁止用戶發(fā)布高度修改的視頻，但仍允許發(fā)布旨在模仿或諷刺的修改視頻。
不過，有專家表示，技術正在變得更加復雜，也更難監(jiān)測。況且這些互聯(lián)網(wǎng)巨頭都沒有在如何發(fā)現(xiàn)這些問題，以及如何執(zhí)行相關政策方面作出任何重大投資。
政策監(jiān)管勢在必行
“特朗普被捕”虛假圖片在互聯(lián)網(wǎng)泛濫還提供了一個案例研究，表明目前缺乏企業(yè)標準或政府法規(guī)來解決使用AI制造和傳播謊言的問題。
紐約卡內基國際事務倫理委員會的研究人員阿瑟·霍蘭·米歇爾說，他擔心這個世界還沒有準備好迎接即將到來的鋪天蓋地的虛假信息。
專家們一致認為，特朗普的名氣使虛假圖片很容易被發(fā)現(xiàn)，但識別出普通人相關的虛假圖片可能困難重重，而且生成虛假圖片的技術一直在進步。從政策角度來看，亟待以立法形式對深度合成技術的應用進行規(guī)制。（記者 劉 霞）
免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據(jù)。
