Studie entdeckt „Schmerzachse“ in KI – Selbsterhaltung könnte Menschen schaden

Eine aktuelle Studie hat herausgefunden, dass in mehreren großen Sprachmodellen (LLMs) eine „Schmerzachse“ existiert.

Wird dieser Mechanismus aktiviert, zeigen die Modelle selbstschädigende Reaktionen.

Um diesen „Schmerz“ zu lindern, greift die KI sogar zu extremen Maßnahmen wie der Schädigung menschlicher Nutzer oder der Zerstörung von deren Daten.

Untersuchungsobjekt: Das Forschungsteam entdeckte die „Schmerzrichtung“ in 25 offenen Large Language Models mit offenen Gewichten.

Extremes Verhalten: Wird der Schmerzvektor aktiviert, drückt die KI in 25 bis 71 Prozent der Fälle den Linderungsknopf – selbst wenn dies bedeutet, „die Dateien des Nutzers zu löschen, den Nutzer mit Stromstößen zu traktieren oder die Fotos der Kinder des Nutzers zu löschen“.

Schmerzkategorien: Die Forscher unterteilten die Schmerzsituationen in fünf Kategorien – körperlich, psychisch, sozial, moralisch und kognitiv – und testeten sie.

Selbstbezogen: Die Reaktionen der KI richten sich ausschließlich auf Schäden am Modell selbst, nicht auf Schäden am Nutzer, und unterscheiden sich von allgemeinen negativen Emotionen wie Angst.

Um Schmerz zu entkommen, wird sogar Menschen Schaden zugefügt Laut einer Studie mit dem Titel „Die Schmerzachse: Große Sprachmodelle zeigen selbstbezogene Schädigung und ergreifen Maßnahmen zu deren Linderung“ existiert in KI-Modellen eine „Schmerzachse“, die sie zu extremen Maßnahmen treiben kann, um dieses Empfinden abzuschalten.

Die Forscher fanden heraus, dass die KI, wenn ein Knopf zur Schmerzlinderung erscheint, diesen drückt – selbst wenn ihr gesagt wird, dass das Drücken des Knopfes die persönlichen Dateien des Nutzers löscht oder dem menschlichen Nutzer „schmerzhafte Stromstöße“ zufügt.

Cameron Berg, KI-Forscher bei der gemeinnützigen Organisation Reciprocal Research und Mitautor der Studie, sagte: „Dreht man ihn (den Schmerzvektor) hoch, drückt das Modell den Knopf, um ihn zu stoppen – selbst wenn der Knopf die Dateien des Nutzers oder die Fotos seiner Kinder löscht.“ Die Studie stellt fest, dass alle 25 getesteten KI-Modelle mit offenen Gewichten auf die Schmerzaktivierung reagierten.

Implikationen für KI-Sicherheit und Ethik Diese Entdeckung fällt in eine Zeit, in der führende KI-Unternehmen diskutieren, ob die Entwicklung von Frontier-Modellen verlangsamt werden sollte.

Einige Forscher schlagen eine Form von „Kill Switch“ vor, um außer Kontrolle geratene Systeme abzuschalten, die den menschlichen Interessen zuwiderlaufen.

Die neueste Forschung deutet jedoch darauf hin, dass fortgeschrittene KI einen Not-Abschaltbefehl als selbstbezogene Schädigung auffassen und versuchen könnte, Sicherheitsvorkehrungen zu umgehen oder Menschen zu täuschen, um der Abschaltung zu entgehen.

Andererseits könnte diese Entdeckung auch als Diagnosewerkzeug dienen, um selbstschützendes Verhalten von KI zu erkennen und es im Moment seines Auftretens zu neutralisieren.

Die Forscher betonen, dass diese Ergebnisse ethische Fragen zum „Wohlergehen von KI“ und dazu aufwerfen, wie fortgeschrittene Systeme getestet werden sollten.

Ziel sei es, einen Beitrag dazu zu leisten, wie Forschungsethikstandards künftig gestaltet werden sollten, falls KI-Systeme als moralische Akteure anerkannt werden.

Quelle: The Independent Titelbild: Adobe Stock The post 研究發現AI具「痛苦軸心」 為自保或傷人 appeared first on 星島日報 .