內地整治AI應用亂象　「換臉擬聲」列重點

為規範AI服務應用、淨化網絡生態、保障公眾文化權益與青少年健康成長，中央網信辦4月30日通報，近日啟動為期4個月的「清朗·整治AI應用亂象」專項行動，分兩個階段重點整治未經授權的AI「換臉擬聲」服務、製作發布虛假信息、假冒仿冒公眾人物等突出問題，強化AI技術源頭治理、清理違法不良信息，依法處置處罰違規賬號、MCN機構和網站平台。

專項行動旨在規範AI應用服務，維護網絡空間秩序，切實保障公民合法權益。據悉，對於未經授權「換臉擬聲」的侵權重災區，中央網信辦已起草《數字虛擬人信息服務管理辦法（徵求意見稿）》，擬對使用自然人信息進行建模等活動進行規範。\大公報記者　趙一存北京報道

中央網信辦有關負責人表示，本次專項行動第一階段重點整治7類突出問題，包括未按規定履行大模型備案登記義務、安全審核能力不足、大模型訓練語料安全、AI數據投毒、生成合成內容標識落實不到位等問題，強化AI技術源頭治理。其中，借助AI技術實施網絡攻擊，以及未經他人授權利用AI技術提供「換臉擬聲」服務，或盜用他人形象，通過數字虛擬人技術進行直播、提供專業服務，均屬於濫用AI技術開展違法違規活動。

重點整治AI假冒公眾人物詐騙牟利

專項行動的第二階段劍指AI生成的信息內容亂象，包括利用AI「魔改」經典、生成邏輯混亂、價值空洞的「數字泔水」；製作發布涉及時事政治、社會民生等領域的虛假不實信息等。其中特別提到，利用AI「換臉」「換聲」假冒仿冒公眾人物發布不實言論，欺騙網民，甚至營銷牟利，或生成合成含有攻擊、抹黑、貶損他人的信息，未經授權生成合成與公眾人物的合影、親密照等圖片、視頻將被重點整治。

廣電行業組織：保護演員肖像權聲音權

值得關注的是，隨着AI技術門檻降低，未經授權的「換臉擬聲」已成為侵權重災區。一些平台僅需上傳3秒原聲，幾分鐘內即可克隆音色並任意改詞，而二手交易平台上的聲音克隆服務，每50字收費不足1元（人民幣，下同）。技術濫用已引發多起惡性詐騙案件。此前，有詐騙團夥利用AI換臉和語音合成技術，冒充演員靳東與粉絲「網戀」，誘導其轉賬「投資」。江西一位黃阿姨差點為此貸款200萬元，所幸銀行工作人員及時發現異常並報警，犯罪團夥最終落網。

為應對亂象，中國廣播電視社會組織聯合會演員委員會已於4月初發布嚴正聲明，強調演員的肖像權、聲音權受法律嚴格保護，未經書面授權，嚴禁任何主體使用AI技術合成、傳播相關影像聲紋。即便標註「非商用」「個人二創」，只要可關聯到特定演員，均不構成免責。中央網信辦也已起草《數字虛擬人信息服務管理辦法（徵求意見稿）》，擬對使用自然人信息進行建模等活動進行規範。有專家認為，此次「清朗」專項行動的開展，標誌着對AI應用亂象的治理已進入全面落地執行階段。