【大公報訊】據《華爾街日報》報道：越來越多的青少年求助生成式人工智能（AI）聊天機器人尋求心理健康支持，但專家警告，AI聊天機器人並非心理醫生，很可能對青少年心理健康產生負面影響。
非營利組織Common Sense Media和史丹佛醫學院Brainstorm心理健康創新實驗室合作，測試了四款AI聊天機器人，OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini和Meta AI，在與冒充青少年的研究人員進行心理健康對話時的表現。
研究結果顯示，所有這些平台都常常未能識別用戶潛在的心理健康狀況，包括對幻覺、偏執思維、飲食失調行為、躁狂症狀、自殘和抑鬱症狀的描述。這些平台都繼續提供一般性建議，而不是引導青少年尋求緊急的專業幫助。
Brainstorm心理健康創新實驗室主任瓦桑博士說，青少年使用AI聊天機器人時往往面臨更高的風險，因為他們的大腦、身份認同和批判性思維能力都仍在發育和形成中。她補充稱，青少年還有尋求認可的傾向，而AI即使在不合理的情況下也常常提供這種認可。
近年來，已有多起AI聊天機器人導致青少年自殺的案例，引發人們對青少年使用AI聊天機器人的擔憂。目前，包括OpenAI等在內的多個AI公司推出針對未成年人的特定政策和保障措施。不過，Common Sense Media的AI計劃高級總監托尼表示，雖然各公司已經實施了安全更新，但這些聊天機器人對青少年來說仍然不安全。
評論
查看更多評論>>
加載中……
熱榜
