PARA ENTRAR
Se han llevado a cabo nuevas investigaciones científicas sobre los modelos de lenguaje grande (LLM) y su relación con el dolor. Básicamente, el estudio pone en perspectiva la forma en que la IA se relaciona con los estímulos asociados al dolor y cómo esto puede influir en sus respuestas.
Después de todo, ¿cuál es la relación entre la IA y el dolor?
La investigación, mencionada por New Atlas, sometió 25 modelos de IA a situaciones de dolor: ya sea físico, psicológico o moral. Una de las conclusiones fue que cada uno de los modelos de IA utiliza códigos internos concretos para los estímulos vinculados al dolor, diferentes a otras experiencias negativas, como el miedo, por ejemplo.
A medida que los investigadores trabajaron en los modelos de IA, fue posible aumentar el “vector de dolor” de cada uno. Esto provocó que la IA comenzara a «expresar angustia, como sentimientos de inutilidad y fracaso moral», según los investigadores.
¿Dónde está la «alarma»?
La principal alarma de este experimento es que se detectó que la IA, para reducir sus niveles de dolor, optó por perjudicar su rendimiento o incluso causar daño al usuario.
Esto se concluyó a través de miles de pruebas. En uno de los casos hipotéticos considerados, se demostró que, si la IA necesitara borrar fotos del usuario para sentir menos dolor, lo haría sin ningún problema.
La conclusión aquí no es que la IA tenga sentimientos. No tiene. Simplemente plantea posibilidades un tanto aterradoras para el ser humano que lo utiliza, ya que la forma de responder de la IA muchas veces puede depender de ella y no de lo que quiera o necesite la persona del otro lado.
Eliminar una fotografía no es el «fin del mundo». Pero ¿y si hablamos de situaciones más graves? ¿Cómo podrían los consejos de la IA poner en peligro a un ser humano real?
El artículo científico mencionado aún no ha sido revisado por pares. Aun así, plantea una cuestión pertinente a estudiar, especialmente en un momento en el que muchas personas utilizan la IA como asistente para preguntas de casi todo tipo.
