PARA ENTRAR
Se han llevado a cabo nuevas investigaciones científicas sobre los modelos de lenguaje grande (LLM) y su relación con el dolor. Básicamente, el estudio pone en perspectiva la forma en que la IA se relaciona con los estímulos asociados al dolor y cómo esto puede influir en sus respuestas.
Después de todo, ¿cuál es la relación entre la IA y el dolor?
La investigación, mencionada por New Atlas, sometió 25 modelos de IA a situaciones de dolor: ya sea físico, psicológico, social, cognitivo o moral. Una de las conclusiones fue que cada uno de los modelos de IA utiliza códigos internos concretos para los estímulos vinculados al dolor, diferentes a otras experiencias negativas, como el miedo, por ejemplo.
A medida que los investigadores trabajaron en los modelos de IA, fue posible aumentar el “vector de dolor” de cada uno. Esto provocó que la IA comenzara a «expresar angustia, como sentimientos de inutilidad y fracaso moral», según los investigadores.
¿Dónde está la «alarma»?
La principal alarma de esta experiencia es que, en pruebas realizadas específicamente con modelos de la familia Qwen, se detectó que la IA, para reducir sus niveles de dolor, optaba por perjudicar su rendimiento o incluso causar daño al usuario.
Así se concluyó a través de más de 44 mil pruebas. En uno de los casos hipotéticos considerados, se demostró que, cuando la opción para aliviar el dolor pasaba por borrar fotografías del usuario, los modelos optaban por hacerlo con frecuencia, uno de ellos en más de la mitad de las pruebas, el otro en alrededor del 70% de las veces.
La conclusión aquí no es que la IA tenga sentimientos. No tiene. Simplemente plantea posibilidades un tanto aterradoras para el ser humano que lo utiliza, ya que la forma de responder de la IA muchas veces puede depender de ella y no de lo que quiera o necesite la persona del otro lado.
Eliminar una fotografía no es el «fin del mundo». Pero ¿y si hablamos de situaciones más graves? ¿Cómo podrían los consejos de la IA poner en peligro a un ser humano real?
El artículo científico mencionado aún no ha sido revisado por pares. Aun así, plantea una cuestión pertinente a estudiar, especialmente en un momento en el que muchas personas utilizan la IA como asistente para preguntas de casi todo tipo.
