【大公報訊】隨着人工智能代理（AI Agent）的應用場景日趨廣泛，電商平台、銀行及支付應用程式、即時通訊平台等，均讓消費者接觸到AI代理。全球驗證服務及反欺詐公司Sumsub調查顯示，消費者授權AI代理自主作出決策，成為AI應用的潛在風險。
Sumsub早前在內地、香港及台灣訪問1050位消費者，發現44%曾經歷最少一次與AI代理相關的不良後果，其中，出現未經授權行為和個人資料外洩較多，分別涉及20%，另有16%出現欺詐、13%涉及賬戶被操控。
消費者授權AI代理作出決策行為，只有不足一半的受訪者能正確分辨AI代理與其他AI應用的分別，當中香港消費者僅得45%，反映大眾對AI代理可被授權執行的行為，以及需保留人手確認的環節，兩者存在明顯認知落差。
責任歸使用者 AI僅輔助
Sumsub亞太區副總裁Penny Chai認為，雖然AI代理能大幅提升效率，但不能完全取代人類的責任，AI代理應擔當副駕駛的角色，着重提供協助，而非在缺乏監督的情況下獨立行事。她提到，消費者與企業需要釐清決策責任誰屬、出現問題該如何處理等，才能更好推進科技應用的互信。
有關調查亦顯示，大中華區消費者普遍較能接受AI代理處理非財務相關的低風險工作，逾70%受訪者每周最少使用一次AI代理，用於提問、生成內容、整合資訊等。
評論
查看更多評論>>
加載中……
熱榜
