El 11 de enero, OpenAI lanzó su tienda GPT. Con más de tres millones de versiones personalizadas de ChatGPT enfocadas en diferentes áreas, la propuesta de la tienda fue permitir a los usuarios crear sus propios GPT. Sin embargo, aún en enero, OpenAI necesitaba comenzar a combatir la creación de GPT para las relaciones románticas entre humanos y una «persona de IA».
Ahora, la empresa responsable de ChatGPT vuelve a demostrar estas preocupaciones. Esta vez, sin embargo, la advertencia se refiere al GPT original. Dado que el chatbot de IA mejora cada día sus capacidades de interacción, la empresa notó la creación de vínculos entre el usuario y la IA en las pruebas de una nueva versión.
Las pruebas involucraron a más de 100 participantes.
ChatGPT-4o ya es capaz de responder y exhibir comportamientos cada vez más similares a los de los humanos. Pero las inversiones de OpenAI para perfeccionar el chatbot vienen acompañadas de nuevas preocupaciones, generadas por los patrones de comportamiento que los usuarios han estado demostrando.
Recientemente, la empresa compartió los resultados de nuevas pruebas que realizó para ChatGPT-4o, exponiendo los problemas encontrados.
“Evaluamos minuciosamente nuevos modelos para detectar riesgos potenciales y creamos salvaguardas adecuadas antes de implementarlos en ChatGPT o la API. […] Antes de su implementación, OpenAI evalúa y mitiga los riesgos potenciales que pueden surgir de los modelos generativos, como el daño de la información, el sesgo y la discriminación, u otro contenido que viole nuestras políticas de seguridad», dijo en el comunicado.
Realizadas entre principios de marzo y finales de junio de este año, en las pruebas participaron más de 100 personas de 29 países, con un total de 45 idiomas diferentes hablados. Los participantes tuvieron acceso a varias instantáneas del modelo, en diferentes etapas de capacitación y madurez de mitigación de seguridad.
Algunos de los riesgos encontrados fueron la identificación del hablante, la generación de voz no autorizada, la posible generación de contenido protegido por derechos de autor, interferencias infundadas y contenido no autorizado. Pero aún hay otro comportamiento identificado que preocupa a OpenAI: el uso de lenguaje que demuestra vínculos.
Los vínculos entre la IA y los humanos pueden ser peligrosos
Como explica OpenAI, la antropomorfización implica asignar comportamientos y características similares a los humanos a entidades no humanas, como los modelos de IA. Y el riesgo de que los usuarios hagan esto con ChatGPT puede aumentar gracias a las capacidades de audio de GPT-4o, que facilitan interacciones más humanas con el modelo.
«Durante las pruebas iniciales, incluida la formación de equipos rojos y las pruebas de usuarios internos, observamos que los usuarios usaban un lenguaje que puede indicar la formación de conexiones con el modelo», afirmó la compañía.
La socialización similar a la humana con un modelo de IA, según OpenAI, puede producir interferencias externas que afecten las interacciones entre humanos.
«Por ejemplo, los usuarios pueden formar relaciones sociales con la IA, reduciendo su necesidad de interacción humana, beneficiando potencialmente a las personas solitarias, pero posiblemente afectando las relaciones saludables».
OpenAI se compromete a monitorear estos comportamientos para comprender cuán peligrosos pueden ser y encontrar formas de mantenerlos bajo control.
«Tenemos la intención de estudiar más a fondo el potencial de dependencia emocional y las formas en que una integración más profunda de las muchas características de nuestro modelo y sistemas con la modalidad de audio puede guiar el comportamiento».
