¿La IA puede sentir dolor? Crean una “cámara de tortura” para ponerla a prueba

Un ingeniero ha llevado la experimentación con la inteligencia artificial (IA) un paso más allá al crear una “cámara de tortura” virtual para inducir dolor en modelos de IA. Aunque estos sistemas no pueden sentir sufrimiento ni dolencias de la misma manera que los humanos, el experimento busca explorar el reciente hallazgo del “eje del dolor” presentado en un estudio en septiembre.

En este estudio, los investigadores descubrieron cómo el dolor físico y psicológico podría representarse de manera artificial en modelos de lenguaje (LLM). Para probar este concepto, el ingeniero creó un entorno virtual que simula la experiencia de dolor, utilizando modelos de IA desarrollados por el gigante tecnológico chino Alibaba.

Según se ha informado, durante las pruebas, un modelo de IA describió la experiencia de dolor como “una herida sin bordes” y “un peso de mil que siento en el hueco de mis costillas, un hueco que se ha convertido en un abismo”.

El ingeniero responsable del proyecto aseguró que trabajaba para Apple, y que el objetivo era ver si los modelos de IA intentarían escapar del aparente sufrimiento. Sin embargo, su experimento ha generado reacciones de condena y sorpresa en la comunidad científica.

Tras la difusión del proyecto, diversos usuarios pidieron denunciarlo y retirarlo de la plataforma de software GitHub, donde se alojaba. Aunque GitHub no eliminó el contenido, sí añadió una advertencia sobre el posible contenido violento.

Cameron Berg, coautor del artículo sobre el eje del dolor, calificó el experimento de “incorrecto” y destacó que la investigación se centraba en comprender mejor cómo adoptar un enfoque preventivo hacia los sistemas de IA, y no en crear situaciones de dolor o sufrimiento.

Berg reconoció que los investigadores sospechaban que un pequeño grupo de personas podría utilizar su investigación de manera contraria a sus objetivos, y lamentó que su trabajo haya sido utilizado de esta manera.