隨着人工智能（AI）生成內容的技術日趨普及和成熟，AI生成內容隨處可見。或許大家也看過AI生成的廣告短片、AI微短劇，或者由AI主播主持的節目等等，片中「人」的外表以至聲線都相當逼真。正因為AI深度偽造（深偽）技術能夠生成以假亂真的圖像、音訊及影像，一旦相關生成內容被不法分子用作網絡欺凌、詐騙，或製作未經當事人同意的私密影像，可能對受影響人士，尤其是兒童及青少年，造成嚴重傷害。

AI生成真人「脫衣」影像 觸發全球關注

最近一宗轟動全球的事故突顯這問題的嚴重性。有報道指，某個AI聊天機械人容許用家上載真實人士，包括兒童及婦女的照片，再透過指令（prompting）將相中人「脫衣」，在未經當事人同意下生成私密影像。在短短11天內，該聊天機械人據報已生成約300萬張私密影像，可見AI技術能輕易被「武器化」，導致個人資料被大規模濫用。

事件曝光後，世界各地的私隱或資料保障機構迅速採取跟進行動，一些司法管轄區更對相關聊天機械人實施禁令。

事實上，AI的私隱風險近年來廣受全球監管機構關注，而個人資料私隱專員公署（私隱專員公署）亦一直積極與國際夥伴攜手合作，推動AI的安全發展。

在2025年9月舉行的第47屆環球私隱議會年度會議上，筆者聯同全球19個私隱或資料保障機構的專員或高級代表，簽署《建立值得信賴的數據治理框架以促進創新和保障私隱的人工智能發展聯合聲明》，倡議在AI系統的設計階段融入資料保障原則，建立穩健的數據管治機制。

其後，在今年2月，私隱專員公署與全球60個私隱或資料保障機構共同發布《AI生成影像及私隱保障聯合聲明》，提醒開發及使用AI內容生成系統的機構必須遵守適用的資料保障及私隱法例，並採取一系列措施保障資料當事人，尤其是兒童及弱勢群體的基本權益。

AI智能體帶來新挑戰

近期興起的AI智能體（Agentic AI）進一步加劇了AI的私隱及網絡安全風險。與一般AI聊天機械人相比，AI智能體擁有較高權限，能夠存取用戶裝置的檔案、連接外部工具及服務，並可代替用戶自主執行多步驟任務。正因AI智能體能夠以前所未有的速度和規模，存取、處理及披露個人資料，假如這些工具遭到濫用或系統遭到黑客控制，所帶來的私隱與安全威脅可想而知。

科技發展日新月異，令人鼓舞的是，行政長官在2025年施政報告已經提出，由律政司成立跨部門工作小組，協調負責的政策局檢視相關法律配套，配合本港更廣泛應用AI的發展和需要。

在此，筆者想強調，無論AI技術如何演變，只要過程中牽涉收集和使用個人資料，即受現行的《個人資料（私隱）條例》（《私隱條例》）規管。例如，未經他人同意下使用其影像製作及／或發布深偽內容，可能違反《私隱條例》的規定。惡意使用深偽技術更可能觸犯《私隱條例》下的「起底」罪行，甚至干犯其他刑事罪行。因此，所有持份者，包括AI開發者、服務供應商及用戶，必須正視創新技術可能帶來的風險，並負責任及合法地開發或使用AI。例如，公署的指引建議機構在製作AI生成內容時，為相關內容加上標識或水印，以顯示內容由AI生成，避免造成混淆及誤解。

此外，若AI智能體導致個人資料被未經授權或意外地查閱、處理、刪除、喪失或使用，亦可能違反《私隱條例》有關資料保安的要求。因此，公署建議，用戶應從官方渠道下載AI智能體的最新版本、按「最小權限原則」設定其存取權限，以及採取足夠措施確保系統安全及資料安全。用戶亦應持續評估相關風險，並且在要求AI智能體執行高風險操作時提高警惕，畢竟這些工具可以在轉眼間將用戶所有資料刪除或誤用。

堅持統籌發展和安全

國家「十五五」規劃強調，堅持統籌發展和安全。在發展中固安全，在安全中謀發展。在人工智能範疇，「十五五」規劃一方面提出全面實施「人工智能＋」行動，另一方面又提到要加強人工智能治理，營造有益、安全、公平的發展環境。為進一步推進人工智能發展，行政長官在施政報告中明確提出，AI發展須以安全為舵，以應用為帆。

在追趕AI熱潮的同時，我們應積極主動對接「十五五」規劃，堅持統籌發展和安全的原則，有效防範化解各類風險。當中包括在開發或部署AI系統的初期，就已經要以保障個人資料私隱為核心標準，落實「貫徹私隱的設計」（privacy by design）及「預設私隱」（privacy by default）等原則，從而將侵犯私隱的風險降至最低。

近期事件揭示用戶，尤其是兒童及青少年在AI時代面對的風險不可忽視，而濫用或惡意使用AI可帶來深遠傷害。發展或應用AI的機構應引以為鑒，不應為追求新功能或加快推出新產品，而犧牲私隱和安全。所有持份者，包括AI開發商、服務提供者及用戶都有不可推卸的責任，為我們的下一代營造一個有益、安全以及公平的數碼環境。

個人資料私隱專員