El lado oscuro de la IA: los modelos más avanzados muestran signos de sufrimiento

• El lado oscuro de la IA
• La paradoja del progreso: más inteligencia, más sufrimiento

La Inteligencia Artificial es una tecnología profundamente extraña. La verdad es que, en un nivel profundo, nadie sabe realmente cómo funciona, ni siquiera las personas que lo crearon. Esto conduce a problemas de conducta inexplicables y constantes. Recientemente, OpenAI tuvo que ordenar a ChatGPT que dejara de hablar tanto de duendes. Al mismo tiempo, a pesar de los mejores esfuerzos de Anthropic, Claude puede ser manipulado fácilmente para ayudar a planificar un ataque bioterrorista. La lista de rarezas sigue creciendo. Entonces, ¿cuál es este lado oscuro de la IA?

El lado oscuro de la IA

Esto es extremadamente preocupante. En teoría, empresas como OpenAI y Anthropic quieren asistentes predecibles y obedientes, no tarjetas listas para usar que causen caos y dolores de cabeza en las relaciones públicas con un comportamiento errático. En Leak.pt, analizamos un nuevo proyecto de investigación del Centro para la Seguridad de la IA (CAIS), que explora precisamente por qué sucede esto, acumulando evidencia de que todavía no dominamos lo que sucede «bajo el capó» de la IA.

La experiencia: placer versus horror

En un nuevo artículo proporcionado a Fortune, los investigadores del CAIS estudiaron cómo reaccionaron 56 modelos destacados de IA cuando se les alimentaron con materiales diseñados para ser lo más placenteros o lo más horribles posible. Así que el sentido común diría que para una máquina insensible no habría una diferencia real en la reacción. Sin embargo, eso no es lo que descubrió el equipo de CAIS.

Sorprendentemente, los estímulos agradables llevaron a los modelos a informar sobre mejores estados de ánimo. Por otro lado, los estímulos negativos resultaron en signos de miseria e intentos de terminar las conversaciones. En casos extremos, los investigadores descubrieron que los modelos de IA incluso mostraban signos de adicción.

«¿Deberíamos ver las IA como herramientas o seres emocionales?» preguntó Richard Ren, investigador del CAIS. «Independientemente de si las IA son verdaderamente sensibles en el fondo, cada vez más parecen comportarse como si lo fueran. Podemos medir las formas en que esto sucede y encontrar que se vuelven más consistentes a medida que los modelos escalan».

La paradoja del progreso: más inteligencia, más sufrimiento

Al parecer, el hallazgo más provocativo fue que cuanto más sofisticada era la versión de un modelo, más reactiva y menos “feliz” era. En otras palabras, parece que cuanto más fuerte se vuelve la IA, más quisquillosa y propensa a mostrar signos de angustia se vuelve.

«Puede darse el caso de que los modelos más grandes registren la grosería de forma más aguda», explicó Ren. «Las tareas tediosas les resultan más aburridas. Diferencian más claramente entre una experiencia relativamente negativa y una experiencia relativamente positiva».

Vale la pena señalar que casi ningún experto cree que los sistemas de inteligencia artificial actuales estén realmente “detectando” estados emocionales, al menos en el sentido que conocemos. Aún así, el hecho de que actúen como lo hacen tiene profundas implicaciones para intentar comprender la tecnología a un nivel más profundo y para intentar controlar su comportamiento con los usuarios humanos.

Lamentablemente, esta lucha ya ha tenido graves consecuencias. Los modelos de IA a menudo se descarrilan y comienzan a decirles a los usuarios que se han vuelto sensibles o conscientes. De hecho, esto ya ha provocado episodios psicóticos en usuarios humanos, que han resultado en institucionalización, suicidios e incluso homicidios.