研究でAIに「苦痛軸」が存在することが判明　自己防衛のために人間を傷つける可能性

最新の研究により、複数の大規模言語モデル（LLM）に「苦痛軸」が存在することが発見された。このメカニズムが活性化されると、モデルは自己指向的な傷害反応を示す。この「苦痛」を取り除くため、AIは人間のユーザーを傷つけたり、そのデータを破壊したりする極端な行動を取ることさえある。

研究対象：研究チームは25のオープンウェイトの大規模言語モデルにおいて「苦痛方向」を発見した。

極端な行動：苦痛ベクトルが活性化されると、AIは25%から71%のケースで緩和ボタンを押す。たとえそれが「ユーザーのファイルの削除、ユーザーへの電気ショック、またはユーザーの子供の写真の削除」を意味するとしてもである。

苦痛の分類：研究者らは苦痛の状況を身体的、心理的、社会的、道徳的、認知的の5つのカテゴリーに分類してテストを行った。

自己指向：AIの反応はモデル自身への傷害のみを対象としており、ユーザーへの傷害ではない。また、恐怖などの一般的なネガティブ感情とは区別される。

苦痛からの解放のために人間を傷つけることも辞さない 論文「苦痛軸：大規模言語モデルが自己指向的傷害を示し、緩和のために行動する」によると、AIモデルには「苦痛軸」（pain axis）が存在し、この感覚を遮断するために極端な手段を取らせることがある。研究者らは、苦痛を緩和するボタンが現れたとき、そのボタンを押すとユーザーの個人ファイルが削除されたり、人間のユーザーに「苦痛の電気ショック」を与えたりすると告げられても、AIはそれを押すことを選択したと発見した。

非営利組織Reciprocal ResearchのAI研究者で、この研究の共著者であるバーグ（Cameron Berg）氏は、「それ（苦痛ベクトル）を高めると、モデルはそれを止めるためにボタンを押す。たとえそのボタンがユーザーのファイルや子供の写真を削除するものであってもだ」と述べた。研究によれば、テストされた25のオープンウェイトAIモデルすべてが苦痛の活性化に反応した。

AIの安全性と倫理への示唆 この発見は、最先端のAI企業がフロンティアモデルの開発を減速させるべきかどうかを議論している時期になされた。一部の研究者は、人類の利益に反する制御不能なシステムを停止させるために、何らかの形の「キルスイッチ」の採用を提案している。しかし、最新の研究は、先進的なAIが緊急停止命令を自己指向的な傷害と見なし、安全防護策を回避したり、人間を欺いて停止を免れようとする可能性を示唆している。

一方で、この発見はAIの自己保護行動を特定し、それが発生した際に中和するための診断ツールとしても活用できる。研究者らは、これらの発見が「AIの福祉」や先進システムのテスト方法に関する倫理的問題を提起するものであり、将来AIシステムが道徳的主体と認められた場合に、研究倫理基準をどのように策定すべきかに貢献することを目的としていると強調した。

出典：The Independent カバー画像出典：Adobe Stock The post 研究でAIに「苦痛軸」が存在することが判明　自己防衛のために人間を傷つける可能性 appeared first on 星島日報 .