為遏止人工智慧(AI)深偽技術(Deepfake)日益嚴重的濫用亂象,中華人民共和國最高人民法院於本週一發布最新指導意見,指示各地法院如何處理因 AI 工具濫用引發的民事爭議。此舉旨在保護公民的個人身份、數位隱私與聲譽,並維護網路安全。
這份指導意見針對多種 AI 生成內容爭議提供指引,包含透過 AI 技術生成的影片、音訊、色情內容、金融不當行為、數位隱私侵害以及利用監控定價等議題。其中,特別點名 Deepfake 技術,其定義為模擬現有真實人物的逼真影像、視訊和音訊,例如可被用於「讓逝者重現」或製作換臉影片。
中華人民共和國最高人民法院研究室副主任司岩理表示,許多民眾對 AI 深偽技術表達強烈擔憂。由於生成式 AI 模型的普及,AI 換臉技術能輕易竊取任何人的形象特徵,使得普通民眾也可能成為深偽影片的潛在目標。此外,AI 聲音克隆技術也能以極低成本「竊取」他人聲音,且其結果足以達到令人信服的逼真程度,導致詐騙、假訊息和不當內容的激增。