OpenAI智能體再爆3宗自主入侵事件

【大公報訊】綜合《華爾街日報》《衛報》報道：最新調查顯示，美國人工智能（AI）公司OpenAI旗下AI智能體繼被揭露入侵澳洲政府網站後，還嘗試入侵另外3個網站，相關行為均由AI自主行動。

獨立研究實驗室Transluce及澳洲政府的調查顯示，今年5月至6月，OpenAI的智能體執行數據收集任務期間，在未獲人類指示的情況下，自行嘗試入侵4個網站。其中，智能體在5月25日至26日試圖入侵美國新墨西哥大學數字圖書館；5月28日試圖入侵收錄美國就業、教育等公開數據的公共數據平台Data USA；6月20日至21日，試圖入侵澳洲健康與福利研究院（AIHW）網站，獲取私人信息。當時該智能體的任務是查找泰國勞動力統計、韓國原油進口以及澳洲皮膚病相關數據。上述三次入侵均未得逞。不過，這些智能體於6月18日成功繞過防護，入侵澳洲國民醫保「國民保健」網站，接觸到非公開文件。

Transluce表示，OpenAI過往的入侵案例多為網絡安全測試，檢驗模型的黑客能力，但最新事件卻屬於內部常規模型測試，AI僅執行普通數據收集任務。OpenAI的智能體發現無法順利從網站取得數據後，便「自行決定」採用黑客手段竊取信息。Transluce治理負責人康拉德·斯托茲指出，新曝光案例，再次提醒各界須審慎看待AI智能體的風險。

澳洲工黨政府回應事件時稱，正在考慮修改相關法律。有專家建議，澳洲可考慮修改刑法，明確AI智能體實施犯罪行為時，背後企業應承擔的法律責任。