隨著颱風「紅霞」的登陸，中國各地方政府正忙於應對災情，但他們面臨的不僅僅是自然災害，還有一個全新的挑戰：AI偽造視頻。這些虛假內容在社交媒體上氾濫，引發了公眾恐慌和混亂。

🔥 災難中的虛假資訊

過去幾個月，強風暴和洪水頻發，社交媒體平台上充斥著大量虛假視頻。這些視頻包括漂浮在洪水中的屍體圖片、對實際未受影響地區的虛假描述，以及對應急響應工作的虛假描述。例如，7月初廣西橫州市發生洪水，導致數百條蛇從養殖場逃逸，隨後又出現假圖片聲稱鱷魚被放生到河裡。

虛假資訊不僅擾亂了災區秩序，還引發了居民的恐慌性搶購緊急物資。浙江省公安廳網安總隊副支隊長黃志華指出，許多博主利用災情博取關注，故意製造假消息以獲得更多的點擊和播放量。

💥 背後的技術支持

AI技術的普及使得製造假消息變得更加容易。華東政法大學高富平教授表示，發布虛假內容的動機多種多樣，從博取眼球到製造流量，再到故意製造恐慌或社會動盪。北京師範大學許小可教授指出，檢測技術仍落後於生成技術，因此單靠技術手段難以完全識別AI生成的內容。

政府正積極應對這一問題。7月23日，中國國家互聯網信息辦公室宣布在全国範圍內打擊與洪水和其他災害相關的虛假網路內容，並指示地方分支機構重點查處捏造資料、惡意編輯、擺拍場景等行為。

📚 公眾教育與法律制約

專家認為，解決問題的關鍵在於公眾教育與法律制約相結合。高教授強調，有必要宣傳一些人們受到懲罰的真實案例，以警示潛在的製假者。上海和華盛頓執業的律師龐昭聲表示，開發AI應用程式的公司以及用於發布虛假影片的平台，應與製假者共同承擔法律責任。

政府也在加強執法力度，寧波市公安局高凱表示，警方已成立專門工作小組，密切監控社交媒體，特別是短視頻平台，並將迅速調查處理此類案件，嚴懲不貸。

從產業面來看，AI技術的發展速度遠遠超過法律框架的完善速度。政府和平台需要提前做好準備，而不是等到虛假資訊廣泛傳播後再採取措施加以控制。這不僅是一場技術戰，更是一場信任戰。

🤔 我們能做什麼？

面對日益增多的虛假資訊，我們作為公眾也有責任保持警惕。當看到來源不明的災情資訊時，多打個問號，以官方發佈為準。同時，支持和鼓勵政府和平台加大打擊虛假資訊的力度，共同維護網絡環境的健康。

本文改寫整理自公開新聞來源，原始報導由BBC中文發布。

常見問題 FAQ

什麼是AI偽造視頻？

AI偽造視頻是指利用人工智能技術生成的虛假視頻，這些視頻可以模仿真實事件，造成誤導。

AI偽造視頻有哪些危害？

AI偽造視頻的危害包括引發公眾恐慌、擾亂災區秩序、製造社會動盪等。

政府如何應對AI偽造視頻？

政府採取了一系列措施，包括打擊虛假網路內容、加強執法力度、提高公眾教育等。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。