1月7日9時許，西藏日喀則市定日縣發(fā)生的6.8級地震，牽動著大家的心。但與此同時，一些網(wǎng)友為了博取流量制造關(guān)于震區(qū)的不實信息，在網(wǎng)絡(luò)上公然傳播，對公眾造成誤導。
其中，有一張“被壓在廢墟下的小男孩”的圖片在網(wǎng)上引發(fā)了廣泛關(guān)注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟之下，全身鋪滿塵埃。不少網(wǎng)友被圖片視頻誤導，紛紛在留言區(qū)關(guān)注男孩的生命安全。而實際上這張照片是由AI生成的。究竟怎么一回事？來看記者的調(diào)查。
記者采訪AI圖片創(chuàng)作者還原事情真相
圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。但記者注意到，有不少網(wǎng)友被圖片視頻造成誤導，并在留言區(qū)關(guān)注男孩的生命安全。
有網(wǎng)友留言稱，“有小孩被壓還不趕緊搶救”，有人表示“心都碎了”……
而實際上，這張圖片是由AI生成，圖中孩子的左手顯示為六根手指。記者聯(lián)系到該AI圖片的創(chuàng)作者何先生，對方給記者提供了原始版的AI生成視頻，短視頻截圖顯示，這段視頻在去年11月發(fā)布，并非本次西藏地震期間發(fā)布。
當事人：有自媒體涉嫌盜用AI生成素材
何先生告訴記者，自己創(chuàng)作這段AI圖片和視頻的起因，是看到加沙戰(zhàn)爭地區(qū)的孩子家園遭到破壞、流離失所，希望通過視頻傳遞和平愿望。但他沒有想到，自己發(fā)布在短視頻平臺上的素材遭到他人盜用，并和西藏地震進行了關(guān)聯(lián)。
“被壓廢墟下的小男孩”AI視頻創(chuàng)作者 何先生：創(chuàng)作的原因是看到國外有戰(zhàn)爭，為了反映戰(zhàn)爭廢墟下孩子們的生存環(huán)境。我不是為了拿它來宣傳、造謠，但這個網(wǎng)絡(luò)搬運內(nèi)容的事情很惡劣?，F(xiàn)在我在所有平臺把作品的下載功能都關(guān)閉了，就是為了防止別人盜走視頻。
“假圖”關(guān)聯(lián)真實事件 違背社會公序良俗
地震救援現(xiàn)場牽動著全社會，而沒承想，何先生去年11月發(fā)布的視頻被人移花接木，將此次地震相關(guān)的信息肆意拼湊，這種用災(zāi)難博取流量的行為，令人憤慨。有法律人士表示，用“假圖”關(guān)聯(lián)真實事件的行為違背了社會公序良俗，有擾亂社會秩序之嫌，將面臨法律處罰。
中國慈善聯(lián)合會法律顧問 張凌霄：自媒體是盜用了別人的AI制品，在抗震救災(zāi)突發(fā)事件當中來博取眼球，吸引流量，構(gòu)成治安管理處罰，嚴重的會構(gòu)成犯罪。同時因為它利用了救災(zāi)的心理，是違反社會的公序良俗和道德最基本的要求。
律師 張曉玲：根據(jù)相關(guān)法律法規(guī)，編造虛假的險情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑。
軟件30秒“編造”地震報道 未標注AI生成
記者也試著用了一款剪輯軟件，只用30秒就生成了一則所謂的“地震報道”。
記者在一款用戶量龐大的剪輯軟件中，使用其提供的AI視頻生成功能，輸入一句關(guān)于小女孩在地震中被救出的文字描述，不到30秒鐘，軟件就生成了一段20秒左右的視頻，并提供畫外音解說。視頻中并未標注“AI生成”字樣，軟件也沒有要求用戶添加這樣的標識。
而在引發(fā)大量關(guān)注的“被壓廢墟下的小男孩”圖片和視頻中，創(chuàng)作者何先生也告訴記者，AI軟件沒有強制要求標注“AI生成”字樣，是自己在視頻上方添加了水印，但后來被盜用者刪掉了水印。
有人工智能研究者表示，目前亟須建立統(tǒng)一的規(guī)范要求，避免AI以假亂真。
吉林大學人工智能學院院長 宋軒：無論是我們個人上傳的相關(guān)的由AI生成的視頻或者圖像，還是由軟件包括平臺發(fā)布的等等相關(guān)的AI生成的內(nèi)容，我覺得必須遵守披露和聲明原則。所有的內(nèi)容如果是由AI生成的，無論是在生成的過程中，還是上傳的過程中，需要進行聲明和披露，就是要明確標注出來，說這個內(nèi)容是由AI生成的。我覺得對于個人用戶，這也是我們在使用AI的過程中應(yīng)該遵守的一個基本原則，一個道德準則。
AI軟件生成的內(nèi)容是否需要主動標注？
那么，由AI軟件生成的圖片和視頻，究竟該不該主動標注由AI生成？
去年9月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》，其中提到：
在圖片的適當位置添加顯著的提示標識； 在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可在視頻末尾和中間適當位置添加顯著的提示標識。
而在此次新聞事件中記者發(fā)現(xiàn)，原本AI視頻的發(fā)布者標注了AI生成，而在他人盜用過程中，卻對AI生成的標注信息進行了模糊，從而誤導了受眾。
平臺加強監(jiān)管 AI時代守好信息真實底線
除了AI生成軟件和生成者要肩負起自己的責任，專家指出，還要在監(jiān)管方面，發(fā)展AI技術(shù)來破解、識別AI造謠；相關(guān)的立法、執(zhí)法也需要加強，并在全社會要加強相關(guān)人員的教育和科普工作，讓公眾的辨別力更高。
中國人民大學新聞與社會發(fā)展中心研究員 曾持：“生成式AI”的拼接本質(zhì)和謠言有很強的親近性，二者都屬于“無中生有”——創(chuàng)造看起來真實合理的信息。AI讓造謠更加簡單和“科學”了，因為AI會根據(jù)熱點事件總結(jié)規(guī)律、拼接情節(jié)，很快就能制作出符合人們“期待”的謠言，讓傳播更加迅速。
專家也指出，目前，平臺審核機制存在一定滯后性，未能及時有效識別AI虛構(gòu)圖片，對自媒體賬號發(fā)布內(nèi)容監(jiān)管不力，特別是在涉及災(zāi)害等敏感話題時，更應(yīng)加強審核力度。未來需要利用技術(shù)手段、人工審核等多方式加強對地震等突發(fā)信息的管控。
律師 張曉玲：平臺應(yīng)該改進審核機制，提高審核效率，并使用更加直觀有效的提示方式，避免虛假信息的傳播。
中國人民大學新聞與社會發(fā)展中心研究員 曾持：在現(xiàn)在的技術(shù)情況下，平臺只能事后懲罰。但是現(xiàn)代社會的傳播速度又太快了，造成的影響太迅速，所以很難在源頭上根治AI造謠的影響。我覺得將來監(jiān)管要從兩個方向努力：
第一是要讓人們認識到，不管是通過AI，還是通過其他工具手段技術(shù)，造謠宣傳假新聞都是違法犯罪的行為； 第二是將來AI技術(shù)要跟平臺更緊密地聯(lián)系在一起，平臺要能根據(jù)AI新工具，來反向識別由AI拼造的假圖片和假新聞。
【未經(jīng)授權(quán)，嚴禁轉(zhuǎn)載！聯(lián)系電話028-86968276】
