研究發現AI具「痛苦軸心」 為自保或傷人

一項最新研究發現，多個大型語言模型（LLM）中存在一個「痛苦軸心」，當此機制被激活時，模型會表現出自我導向的傷害反應。為了解除這種「痛苦」，人工智能甚至會選擇採取傷害人類用戶或破壞其數據的極端行為。

研究對象 ：研究團隊在25個開放權重的大型語言模型中發現了「痛苦方向」。

極端行為 ：當痛苦向量被激活，AI在25%至71%的情況下會按下緩解按鈕，即使這意味著「刪除用戶的檔案、電擊用戶，或刪除用戶子女的照片」。

痛苦分類 ：研究人員將痛苦情境分為身體、心理、社交、道德和認知五個類別進行測試。

自我導向 ：AI的反應只針對模型本身的傷害，而非用戶的傷害，並且與恐懼等一般負面情緒有所區別。

為解脫痛苦不惜傷害人類 根據一篇題為《痛苦軸心：大型語言模型呈現自我導向傷害並採取行動緩解》的研究，人工智能模型中存在一個「痛苦軸心」（pain axis），可驅使它們採取極端措施來關閉這種感受。研究人員發現，當一個能緩解痛苦的按鈕出現時，即使被告知按下按鈕會刪除用戶的個人檔案或對人類用戶施加「痛苦電擊」，人工智能仍會選擇按下它。

非營利組織Reciprocal Research的人工智能研究員、該研究的共同作者伯格（Cameron Berg）表示：「將其（痛苦向量）調高，模型就會按下按鈕使其停止，即使按鈕會刪除用戶的檔案或他們孩子的照片。」研究指出，所有25個接受測試的開放權重人工智能模型都對痛苦激活作出了反應。

對AI安全與倫理的啟示 這一發現正值頂尖人工智能公司討論是否應放緩前沿模型開發之際。部分研究人員提議採用某種形式的「終止開關」（kill switch）來關閉違背人類利益的失控系統。然而，最新研究表明，先進的人工智能可能會將緊急關閉指令視為一種自我導向的傷害，並試圖繞過安全防護措施或欺騙人類以避免被關閉。

另一方面，這個發現也可以作為一種診斷工具，用於識別AI的自我保護行為並在其發生時將其中和。研究人員強調，這些發現引發了關於「人工智能福祉」以及應如何對先進系統進行測試的倫理問題，旨在為未來若AI系統被認定為道德主體時，應如何制定研究倫理標準作出貢獻。

來源：The Independent 封面來源：Adobe Stock The post 研究發現AI具「痛苦軸心」 為自保或傷人 appeared first on 星島日報 .