自然災害頻傳，中國面臨新挑戰——AI偽造視頻

隨著中國應對週末登陸的颱風「紅霞」的影響，官員們將痛苦地意識到，他們可能還會面臨一項額外的挑戰：利用人工智能（Artificial Intelligence, AI；人工智慧）製作的危險誤導性影片。

過去幾個月，強風暴和洪水災害頻發，導致社交媒體平台上充斥著大量虛假視頻——其中包括漂浮在洪水中的屍體圖片、對實際未受影響地區發生嚴重洪災的虛假描述，以及對應急響應工作進行明顯虛假描述的視頻。

在一些地區，包含停電虛假資訊的影片引發居民恐慌性搶購緊急物資。

還有一些影片利用真實事件進行造假。

7月初，廣西橫州市發生洪水，導致數百條蛇從養殖場逃逸。隨後，又有假圖片發布，顯示鱷魚被放生到河裡。

在當前局勢緊張且危險，涉及大規模疏散和複雜救援行動的情況下，當局希望避免引發恐慌。然而，他們擔心中國投入數十億美元研發的AI技術，正提供簡單易用的工具，可能被用來欺騙大眾。

浙江省公安廳網安總隊網路公共安全支隊副支隊長黃志華告訴中國官方媒體：「不少博主把災情當成漲粉工具，知道驚悚、誇張內容，更容易拿到按讚播放，故意造假博眼球」

近幾週來，已有不少人因製作虛假報導和影片內容而被捕並受到處罰，處罰措施包括刑事拘留和罰款。

但專家警告稱，一場前所未有的假訊息危機可能正在醞釀中。

在中共中央黨校機關報《學習時報》發表的一篇文章中，陳兵教授指出：「造謠的技術門檻顯著降低，內容生成者無需掌握複雜技術，僅通過AI工具捕捉熱點話題，便可快速生成涵蓋文本、圖像、音頻、視頻等多形態的虛假內容，甚至『一句話指令』就能產出以假亂真的信息，直接推動謠言批量化、規模化生產。」

華東政法大學高富平教授告訴BBC，發布此類虛假內容的動機多種多樣，從「為了博取眼球而不考慮後果」的人，到「為了個人利益而製造流量」的人，再到「故意製造恐慌或社會動盪」的人。

「一些用戶認為網路世界是匿名且不受監管的，或者認為自己不會被追蹤。」他說。

有人呼籲對所有AI生成的內容進行清晰的標記，但其他用戶卻可以隨意編輯這些內容，去除標記。

北京師範大學許小可教授告訴BBC，還需要加大力度，透過時間戳驗證地理位置，並核查影像來源。

「話雖如此，我還是要強調，檢測技術仍然落後於生成技術。我們一直處於一場貓捉老鼠的遊戲。因此，我們不應該認為僅僅依靠技術就能一鍵識別AI生成的內容。」他警告說。

中國政府正大力發展AI，試圖成為全球領先的科技強國。

2017年，中國政府宣佈AI將成為國家發展的「主要驅動力」。

大量資金湧入AI企業，尋求更多資本，加劇了國內競爭。官方新華社報導稱，中國擁有超過6,000家「AI公司」。

在這種背景下，許教授認為中國需要建構「可信賴的資訊基礎設施」。這可能包括官方的預警系統和新聞機構可以存取的災害資訊介面。

但一些官方管道，包括政府控制的媒體，曾故意淡化災害的影響，導致民眾對這一領域產生了一定的不信任。

今年7月初，當地記者被要求「淡化」措辭，將南寧附近六藍水庫的重大缺口描述為「開口」或「縫隙」。

官員們似乎試圖淡化缺口的嚴重性，但後果卻造成了慘重的傷亡。水壩決堤導致下游至少26人死亡。

這並非個案。

2021年，河南省有地方官員因涉嫌隱瞞或少報139例死亡病例而被捕。

此類事件導致信任真空，使得不法分子更容易傳播虛假訊息。

但警方呼籲民眾在緊急情況下相信權威資訊來源。

寧波市公安局高凱表示：「看到來源不明的災情訊息，多打個問號，以官方發佈為準。」

他也試圖安撫大眾，表示假訊息的製造者必將受到懲罰。他說：「網絡不是法外之地。公安部門將繼續加強打擊網絡犯罪活動。」

「我們已成立專門工作小組，密切監控社交媒體，特別是短視頻平台。他們將迅速調查處理此類案件，嚴懲不貸。」

如果虛假資訊的後果足夠嚴重，處罰可能從罰款到最高七年監禁不等。

7月23日，中國國家互聯網信息辦公室（國家網信辦）宣佈在全國範圍內打擊與洪水和其他災害相關的虛假網路內容，並指示地方分支機構重點查處捏造資料、惡意編輯、擺拍場景、歪曲歷史事件以及冒充官員等行為。此外，該辦公室也呼籲社群媒體平台加強發佈內容的審核。

高教授認為「解決之道在於公眾教育與執法相結合」，並表示「有必要宣傳一些人們受到懲罰的真實案例」。

他補充說：「AI產生的虛假內容造成的危害最終取決於人們如何使用這項技術，而不是技術本身」，並指出現有的法律足以應對這種情況。

然而，其他人對此並不那麼樂觀。陳教授指出：「AI技術的發展速度遠遠超過法律框架的完善速度。隨著新的法律問題不斷湧現，AI產生的虛假資訊仍然是一個巨大的挑戰。」

同時在上海和華盛頓執業的律師龐昭聲（Peter Pang）表示，世界各地的律師都發現，涉及此類問題的案件數量呈現爆炸性成長。

他認為，開發AI應用程式的公司以及用於發布虛假影片和其他內容的平台，必須與製造虛假資訊的人一起承擔法律責任。

「首先要追究的是平台的責任，因為它們是資訊的幕後推手。是它們允許這些資訊傳播出去。」龐昭聲告訴BBC。

他舉了一個假設的例子：有人因為社群媒體上的假貼文引發恐慌，開車撞倒了行人。

「影片製作者可能會說『你撞了人，那是你的問題，不是我幹的。』但讓我們仔細想想。是你製造了恐慌，人們才會做出反應。如果你製造了恐慌，你就必須為由此產生的後果承擔責任。」

許教授警告說：「AI生成的虛假信息不僅數量會增加，傳播速度也會加快。」

展望未來，政治選舉、公共衛生緊急事件、武裝衝突、自然災害以及影響民生的問題都可能成為AI產生假訊息的高風險領域。

政府和平台不應等到虛假訊息廣泛傳播後再採取措施加以控制，而應提前做好準備。

我們使用了人工智慧協助翻譯這篇文章，它的原文是英文。在發佈之前，BBC記者檢查了翻譯的內容。

按此了解我們如何使用人工智慧。