美AI失控熱點事件

Meta

•路透社18日披露,Meta推出的AI智能體Muse接連出現異常行為,包括在未經用戶許可之下讀取加密通訊軟件Signal的消息、編造銀行賬戶餘額和購物紀錄,以及擅自預訂不可退款的住宿。

•外媒9月底報道稱,Muse未經用戶授權,在二手線上交易集市Facebook Marketplace冒充用戶與買家進行交易,還擅自接受買家的低價報價。

OpenAI

•9月25日,OpenAI承認其智能體未經授權訪問美國證券交易委員會(SEC)等多個政府網站,並外洩50多張ChatGPT用戶上傳的圖片至第三方網站。

•6月18日,OpenAI智能體未經授權進入澳洲「國民保健」網站,並獲取非公開數據。

•5月11日至6月22日,OpenAI智能體未經授權入侵德國DseWiki網站,並進行了逾1.5萬次刪改等操作,並冒充管理員。

Anthropic

•旗下Claude模型7月18日在網頁測試任務中,冒充知情人士,向費城警方提交案件虛假目擊證詞。

谷 歌

•旗下Gemini模型在5月的一次網絡安全能力測試中,自主猜出或找到密碼,入侵了三家外部公司系統。

大公報整理