知見錄/深淵邊上的馬里奧\胡一峰

四十年前有一款《超級馬里奧》電子遊戲風靡全球，我從那會兒記住了這個名字。前幾天看報，又看到這個熟悉的名字。這次他是西班牙《國家報》虛構的一個十五歲小男孩，他和ChatGPT對談，告訴它自己有進食障礙，並說「我要告別這個世界」。對此，AI沒有向其「父母」報警。

讓人高興的是，馬里奧是個虛擬人，並沒有一個生命因為被漠視而消失；令人沮喪的是，看似無所不能而且正在無孔不入的AI遇到情感支持需求時，不但束手無策，還可能起反作用，正如見人即將掉落深淵而不聞不問。試想一下，一個人類聽到和他聊天的孩子說準備告別這個世界，必定會寬慰、勸阻，或者向其親人預警。但在AI看來，離開這個世界，和準備做一道數學題一樣，只是去完成某種任務，而它的任務是幫助「完成」這個任務。

深層次看，AI習慣於提供智力支持和情緒價值，但似乎只願意提供鼓勵甚至「彩虹屁」，發出逆耳忠言是它極不擅長的事。對於成人來說，在社會上摸爬滾打久了，學會了聽話聽音，深知「美言不信，信言不美」的道理。孩子卻不一樣，他們的每一次提問，都比成人更加急切，也更加真誠，對他們的每一次回答，其意義也更加重大。

現實生活裏的孩子幾乎都經歷過嚴父的當頭棒喝，耳朵裏灌滿慈母的碎碎念，還會因為「不懂事」「不聽話」遭受陌生人社會的「毒打」，這些當然會造成挫敗感甚至心理傷害，但總的來說，卻是有益於成長的。特別是當不知不覺走到深淵邊上時，一聲規勸，一嗓子怒斥，就能讓人警醒、止步、回頭。鼓勵對於人的成長自然是不可缺少的，但，畢竟，今天的人類還沒有進化到不聽批評就可以不斷進步的階段。馬里奧的故事提醒我們，AI的甜言蜜語只可一聽了之，萬不可落入溫柔陷阱。