根據中國國家互聯網信息辦公室（國家網信辦）的最新報告，中國在應對自然災害時面臨一項新的挑戰：利用人工智能（AI）製造的虛假視頻。這項技術正在被用來製造和散播大量誤導性的內容，從而引發社會恐慌。
數據顯示，虛假視頻數量激增
據國家網信辦的統計，過去幾個月，由於強風暴和洪水的頻發，社交媒體平台上出現了大量的虛假視頻。這些視頻包括漂浮在洪水中的屍體圖片、對未受影響地區的虛假描述，以及對應急響應工作的虛假報道。在某些地區，這些虛假視頻甚至引發了居民的恐慌性搶購緊急物資。
浙江省公安廳網安總隊網路公共安全支隊副支隊長黃志華指出：「不少博主把災情當成漲粉工具，故意造假博眼球。」
數據顯示，7月初，廣西橫州市發生洪水，導致數百條蛇從養殖場逃逸。隨後，又有人发布了假图片，顯示鱷魚被放生到河裡，進一步加劇了公眾的恐慌。
AI技術的雙刃劍效應
據陳兵教授在中共中央黨校機關報《學習時報》發表的文章指出，AI技術的門檻顯著降低，內容生成者無需掌握複雜技術，即可快速生成多形態的虛假內容。這意味著，只需「一句話指令」就能產出以假亂真的信息，直接推動謠言的批量化、規模化生產。
華東政法大學高富平教授表示：「發布此類虛假內容的動機多種多樣，包括博取眼球、製造流量，甚至是故意製造恐慌或社會動盪。」
數據顯示，近幾週來，已有不少人因製作虛假報導和影片內容而被捕並受到處罰，包括刑事拘留和罰款。
政府的應對策略
中國政府正大力發展AI，試圖成為全球領先的科技強國。2017年，中國政府宣佈AI將成為國家發展的「主要驅動力」。大量資金湧入AI企業，尋求更多資本，加劇了國內競爭。官方新華社報導稱，中國擁有超過6,000家「AI公司」。
北京師範大學許小可教授指出：「解決之道在於公眾教育與執法相結合，有必要宣傳一些人們受到懲罰的真實案例。」
數據顯示，7月23日，國家網信辦宣佈在全國範圍內打擊與洪水和其他災害相關的虛假網路內容，並指示地方分支機構重點查處捏造資料、惡意編輯、擺拍場景、歪曲歷史事件以及冒充官員等行為。
數據背後的啟示
根據數據分析，AI生成的虛假信息不僅數量會增加，傳播速度也會加快。這意味著，政府和平台不應等到虛假資訊廣泛傳播後再採取措施加以控制，而應提前做好準備。
從產業面來看，AI技術的發展速度遠遠超過法律框架的完善速度。隨著新的法律問題不斷湧現，AI產生的虛假資訊仍然是一个巨大的挑戰。政府和平台需要合作，建立更加嚴格的監管機制，以防止虛假資訊的氾濫。
公眾也應提高辨識能力，看到來源不明的災情訊息時，多打個問號，以官方發佈為準。只有這樣，才能有效應對AI偽造視頻帶來的新挑戰。
本文改寫整理自公開新聞來源，原始報導由BBC中文發布。
常見問題 FAQ
AI偽造視頻有哪些常見的特徵？
AI偽造視頻通常具有高度逼真性，難以用肉眼辨別真偽。常見特徵包括不自然的動作、嘴唇同步不良、眼睛和面部表情不協調等。
政府採取了哪些措施打擊AI偽造視頻？
政府采取了多項措施，包括成立專門工作小組監控社交媒體，特別是短視頻平台，迅速調查處理虛假內容案件，並加大執法力度。
普通用戶如何辨別AI偽造視頻？
普通用戶可以通過檢查視頻來源、比較多個信息渠道、使用專業辨識工具等方法來辨別AI偽造視頻。
※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。
About the Author
