電子報詳情頁

焦點新聞/規範AI擬人化 防止濫用失控

  圖:人工智能擬人化互動服務已成為中國極具活力的消費級應用賽道。

為促進人工智能(AI)擬人化互動服務健康發展和規範應用,國家互聯網信息辦公室起草了《人工智能擬人化互動服務管理暫行辦法(徵求意見稿)》(簡稱《辦法》),昨日向社會公開徵求意見。其中提到,國家鼓勵擬人化互動服務創新發展,對擬人化互動服務實行包容審慎和分類分級監管,防止濫用失控。

專家對《大公報》表示,《辦法》通過全鏈條責任及彈性監管工具,將「負責任創新」理念轉化為可執行、可追責的立法規則,為擬人化互動服務的健康發展提供了穩定預期,也為全球應對類似前沿挑戰貢獻了兼具前瞻性與實操性的「中國方案」。\大公報記者 任芳頡北京報道

《辦法》明確了適用範圍,即利用人工智能技術,向境內公眾提供模擬人類人格特徵、思維模式和溝通風格,通過文字、圖片、音頻、視頻等方式與人類進行情感互動的產品或者服務。文件提到,提供和使用擬人化互動服務,不得開展生成、傳播危害國家安全、損害國家榮譽和利益、破壞民族團結、開展非法宗教活動,或者散布謠言擾亂經濟和社會秩序等內容;生成、傳播宣揚淫穢、賭博、暴力或者教唆犯罪的內容;通過鼓勵、美化、暗示自殺自殘等方式損害用戶身體健康,或者通過語言暴力、情感操控等方式損害用戶人格尊嚴與心理健康;通過算法操縱、信息誤導、設置情感陷阱等方式,誘導用戶作出不合理決策等活動。

應用層面提供「安全試錯」環境

發展中國家人工智能論壇理事張天澤接受《大公報》採訪指出,政策的發布恰逢其時,體現了「在發展中規範、在規範中發展」的治理智慧。隨着情感計算、多模態交互等技術快速迭代,AI陪伴類應用已從「機械對話」邁向「深度共情」,角色扮演、心理療癒、智能玩具、數字復活等產品形態層出不窮,擬人化互動服務正成為極具活力的消費級應用賽道。《辦法》的出台既順應了產業發展需求,也為這一新興領域提供了明確的規則框架。

《辦法》明確提到,鼓勵擬人化互動服務創新發展,對擬人化互動服務實行包容審慎和分類分級監管,防止濫用失控。西南政法大學校長、中國法學會副會長林維表示,《辦法》首次在部門規章層面明確「監管沙盒」制度,允許企業在監管機構的監督指導下開展創新試點和安全測試,在保障企業創新活力的同時,及時發現並防範試點過程中出現的風險。這一彈性監管模式準確適應了AI技術迭代快、應用場景多的特點,為新技術的成熟推廣、安全防控創造有利條件。

為全球AI治理貢獻中國方案

「這一基調表明監管的目的不是限制創新,而是為行業健康發展保駕護航。」張天澤表示,放眼全球,歐美正加緊推進AI陪伴領域立法,中國此時出台《辦法》,不僅展現了主動作為的監管姿態,也為全球人工智能治理貢獻了中國方案。期待各方積極建言獻策,共同完善這一制度框架,讓人工智能真正成為構建「有溫度的智能社會」的積極力量。