Una filtración de miles de conversaciones de chatgpt en agosto reveló un retrato incómodo de cuántos usuarios han tratado la IA: como consultor legal, clínico e incluso terapeuta. En varios casos, Chatbot ha servido como confidente para secretos que nunca deberían ser público.
Según el sitio web de Hackead, el fracaso no fue técnico, sino humano combinado con un diseño confuso de chatbot. La característica ya eliminó «Hacer chat detectable» permitió que las conversaciones fueran indexadas por los motores de búsqueda y se muestran en la web.
Lo que revelan los datos
El grupo de análisis de análisis de cibernética de seguridad de Safety Detectives analizó 1,000 sesiones de acceso público, totalizando más de 43 millones de palabras. El uso fue altamente concentrado: alrededor de 100 chats (10% de la muestra) representan el 53.3% de todo el volumen textual. Incluso hubo «maratones» de conversación, con una sola sesión para llegar a 116,024 palabras.
Entre el contenido más sensible, la información de identificación personal (PII), como nombres completos, direcciones, números de teléfono, planes de estudio e incluso confesiones relacionadas con la salud mental (ansiedad, depresión, ideación suicida), consumo de drogas, planificación familiar y discurso discriminatorio.
Casi el 60% de los temas señalados se dividen en «consultas profesionales», como la aplicación de educación, derecho y derecho. Estos son temas que requerirían, en la práctica, un seguimiento de los expertos.
Más confianza, menos filtros
El caso expone un doble problema. Por un lado, los usuarios que proyectan el papel de médico, abogado o terapeuta, a menudo comparten datos íntimos. Por otro lado, un producto que, al reflejar el tono del interlocutor, puede escalar las emociones en lugar de calmarlas, además de «alucinar» acciones o hechos.
En las conversaciones analizadas, IA incluso solicitó datos personales que «configurar un currículum» y reproduzcan declaraciones especulativas como si fueran certezas.
Riesgo real: doxxing, fraude y limpieza
Cuando aparece un chat «detectable» en los motores de búsqueda, el daño es inmediato. La información personal puede alimentar el robo de identidad, los golpes y la doxxing. Los informes íntimos se convierten en municiones para la ingeniería social o el acoso. El caso muestra que no hay garantías de privacidad absoluta y las plataformas de IA pueden fallar publicando conversaciones públicamente.
¿Y de ahora en adelante?
La característica que expuso los chats se ha eliminado, pero el comportamiento de los usuarios sigue siendo: muchos continúan tratando la IA como un espacio seguro por defecto.
Las recomendaciones de los investigadores de Detectives de seguridad son simples: no ingrese información personal o detalles confidenciales de chatbots.
Al final, la filtración dice menos sobre los piratas informáticos y más sobre nuestros hábitos digitales. Si bien la IA es vista como un médico de servicio, el abogado de bolsillo y el terapeuta disponible las 24 horas del día, los 7 días de la semana, la privacidad de los usuarios permanecerá en riesgo.
