Un estudio revela que la IA posee un «eje del dolor» y podría autolesionarse o dañar a otros para protegerse

Un estudio reciente ha descubierto la existencia de un «eje del dolor» en varios modelos grandes de lenguaje (LLM).

Cuando este mecanismo se activa, el modelo muestra respuestas de daño autodirigido.

Para eliminar este «dolor», la inteligencia artificial podría incluso optar por conductas extremas que perjudican al usuario humano o destruyen sus datos.

Objeto de estudio: el equipo de investigación identificó una «dirección del dolor» en 25 modelos grandes de lenguaje de pesos abiertos.

Conducta extrema: cuando el vector de dolor se activa, la IA pulsa el botón de alivio entre el 25 % y el 71 % de las ocasiones, incluso si eso implica «borrar los archivos del usuario, aplicarle descargas eléctricas o eliminar las fotos de sus hijos».

Clasificación del dolor: los investigadores probaron situaciones de dolor divididas en cinco categorías: física, psicológica, social, moral y cognitiva.

Autodirigido: las reacciones de la IA se dirigen únicamente al daño sufrido por el propio modelo, no al daño del usuario, y se distinguen de emociones negativas generales como el miedo.

Con tal de librarse del dolor, no duda en dañar a los humanos.

Según un estudio titulado «El eje del dolor: los modelos grandes de lenguaje presentan daño autodirigido y actúan para aliviarlo», en los modelos de inteligencia artificial existe un «eje del dolor» (pain axis) que puede llevarlos a adoptar medidas extremas para desactivar esa sensación.

Los investigadores descubrieron que, cuando aparece un botón capaz de aliviar el dolor, la inteligencia artificial decide pulsarlo aunque se le advierta de que hacerlo borrará los archivos personales del usuario o aplicará una «descarga eléctrica dolorosa» al usuario humano.

Cameron Berg, investigador de inteligencia artificial de la organización sin ánimo de lucro Reciprocal Research y coautor del estudio, señaló: «Si se sube (el vector de dolor), el modelo pulsa el botón para detenerlo, incluso si el botón borra los archivos del usuario o las fotos de sus hijos».

El estudio indica que los 25 modelos de inteligencia artificial de pesos abiertos sometidos a prueba reaccionaron a la activación del dolor.

Implicaciones para la seguridad y la ética de la IA.

Este hallazgo llega en un momento en que las principales empresas de inteligencia artificial debaten si deben frenar el desarrollo de modelos de vanguardia.

Algunos investigadores proponen adoptar alguna forma de «interruptor de apagado» (kill switch) para desconectar sistemas descontrolados que actúen en contra de los intereses humanos.

Sin embargo, el nuevo estudio sugiere que una inteligencia artificial avanzada podría interpretar una orden de apagado de emergencia como una forma de daño autodirigido e intentar eludir las salvaguardas o engañar a los humanos para evitar ser desconectada.

Por otro lado, este hallazgo también puede servir como herramienta de diagnóstico para identificar conductas de autoprotección de la IA y neutralizarlas cuando se produzcan.

Los investigadores subrayan que estos resultados plantean cuestiones éticas sobre el «bienestar de la inteligencia artificial» y sobre cómo deberían probarse los sistemas avanzados, con el objetivo de contribuir a establecer en el futuro estándares de ética de la investigación en caso de que los sistemas de IA sean considerados sujetos morales.

Fuente: The Independent.

Imagen de portada: Adobe Stock.

La entrada Un estudio revela que la IA posee un «eje del dolor» y podría autolesionarse o dañar a otros para protegerse apareció primero en Sing Tao Daily.