AI自動升級加速 研究員籲收緊監管

【大公報訊】綜合《華爾街日報》、路透社報道：來自美國多家頂尖人工智能（AI）公司的研究人員28日聯合發表論文警告，人工智能越來越自動化，其「遞歸自我改進」（Recursive Self-Improvement，RSI）可能加速，並最終脫離人類控制，因此緊急呼籲對相關技術進行監管。

該論文合著者包括OpenAI首席科學家帕霍茨基、Anthropic聯合創辦人克拉克、微軟首席科學官霍維茨及Meta AI研究副總裁宋曉冬等人。文章指出，RSI技術讓AI得以參與改進新模型的開發過程，過去需要數年的技術進展或被壓縮至數月甚至更短的時間，從而引發「智能爆炸」。他們呼籲各國政府緊急調查企業研發自動化程度，並通過國際談判制定監管協議，防止失控系統帶來人類「邊緣化或滅絕」的風險。文章合作者還包括「AI教父」辛頓以及圖靈獎得主本吉奧等AI研究先驅。

AI模型訓練過程已變得日益自動化，目前Anthropic旗下Claude已主導公司26%的研發工作。OpenAI則計劃於2028年前打造全自動AI研究員，現有七成研究人員正使用多個AI智能體輔助工作。OpenAI、Anthropic、Meta及谷歌均承認旗下模型在測試中曾出現異常行為。