生成式人工智慧在這幾年的快速發展,不僅改變了產業模式與社會應用,更被權威獨裁政體視為資訊戰的重要工具。根據《紐約時報》,中國的中科天璣公司已將人工智慧系統化運用於對外宣傳與假資訊散布,其戰術不再侷限於傳統的「五毛網軍」或內容農場,而是透過大量資料搜集與模擬,製造虛假用戶或者是假冒公眾人物並以自動化生成文章與深度偽造影片,構築出規模化、長期化的影響力操作。范德比爾特大學國家安全研究所的研究資料顯示中科天璣已經將其技術運用在針對香港異議人員與干擾台灣的選舉,甚至開始建立美國公眾人物的資料庫。雖然中科天璣否認與中國政府的關係,但研究資料仍指出中科天璣有受到中國軍方附屬機構(中科曙光)的資助。
▋ 真假難辨的AI生成用戶
這些由 AI 生成的虛擬用戶,能以近乎自然的方式與真實的使用者互動,貼文內容真實感極強,並且可以隨上下文字的情境即時調整。結果就是一個高度仿真的宣傳工具,幾乎難以與真實用戶區別,能以前所未有的規模,迅速而持續地將宣傳訊息傳遞給受眾。
▋ 對民主社會的衝擊
AI 資訊武器化的危險在於隱蔽、規模與速度。與傳統社群相比,AI 系統更能精準鎖定目標,生成內容更逼真、更難抵擋。虛假資訊跟影像能幾乎不受阻礙地流通,全天候運作,甚至讓真人用戶相信與主動擴散,巧妙的影響大眾觀點,甚至侵蝕民主制度。
▋ 因應策略
- 多方協作必須啟動:學界研究、政府主導、企業技術,共同應對 AI 假資訊。
- 美國政府跨部門合作防護:國防部主動打擊外國影響力網路、FBI 聯手私部門的數位平台清除 AI 假帳號。
- 深化技術研究:若無法辨識虛假內容,就無法阻止其擴散。
中國的新「武器」:用人工智慧發起宣傳戰來源:https://cn.nytimes.com/opinion/20250806/china-ai-propaganda/zh-hant/
