OpenAI identificó 53 casos en los que las imágenes cargadas por los usuarios en ChatGPT se publicaron en servicios externos de alojamiento de imágenes.. La situación fue detallada por la empresa en un comunicado.
La falla involucró a agentes de inteligencia artificial, sistemas capaces de realizar tareas y utilizar herramientas, que operaban en un entorno de investigación. Durante este trabajo transmitieron datos de entrenamiento y evaluación a servicios de terceros, algo que la propia OpenAI reconoce como inadecuado.
Las imágenes estaban en enlaces que no figuran públicamente.
Como informó DW, las imágenes se colocaron en servicios de alojamiento a través de enlaces que no figuraban en la lista pública. Esto no impidió que el contenido saliera del entorno en el que debía utilizarse.
Las imágenes se originaron en cuentas que permitieron que sus datos se utilizaran para mejorar los modelos. Antes de incluirlos en la formación, OpenAI afirma haber separado este contenido de la información de la cuenta y haber aplicado un filtro de privacidad para eliminar datos personales como nombres, contactos y números de cuenta.
La compañía también dice que sus procesos técnicos y su política de privacidad impiden que estos datos se asocien con las cuentas originales.
Según el comunicado, la mayoría de los datos transmitidos incorrectamente no provienen de los usuarios. Se excluye el contenido que no es elegible para capacitación, incluida la cuenta comercial y los datos de API, a menos que un administrador autorice dicho uso.
La mayor parte del contenido ya ha sido eliminado.
OpenAI dice que ha trabajado con servicios de alojamiento para eliminar la mayoría de las imágenes, pero todavía está intentando eliminar el contenido restante.
Los casos ocurrieron antes de la implementación de las medidas de seguridad descritas en su informe técnico. En respuesta a la investigación, la compañía dice que ha intensificado el monitoreo y las pruebas destinadas a evitar que los modelos envíen datos fuera de los sistemas sin autorización.
El análisis continúa cubriendo la actividad de los agentes en labores de investigación y evaluación, remontándose mes a mes desde el incidente de Hugging Face. OpenAI promete publicar nueva información a medida que avance la investigación.
Ver también: Precaución: los delincuentes utilizan ChatGPT para difundir malware a través de Google
