OpenAI reveló un nuevo informe que explica cómo monitorear el uso de ChatGPT a prevenir actividades maliciosas y proteger a los usuarios.
De hecho, la compañía afirma que, tan sólo en los últimos meses, interrumpió más de 40 redes que intentaban explotar el chatbot con fines ilegales, ya que campañas de phishing y espionaje hasta operaciones de influencia política.
ChatGPT es realmente muy útil, para todo… ¡Pero realmente para todo! Lo cual está claro, también significa que es demasiado práctico y poderoso para no tener control sobre él.
¡Inteligencia artificial con vigilancia activa!
Aunque los usuarios tienen la opción de no compartir sus conversaciones para el entrenamiento de IA, OpenAI mantiene un sistema de monitoreo humano y automatizado, enfocado en detectar el uso indebido de ChatGPT.
Esto incluye intentos de crear malware, manipular información, desarrollar herramientas de vigilancia o explotar la IA para fraude en línea.
De hecho, según el documento, se bloquearon cuentas asociadas a redes criminales rusas, grupos chinos vinculados a campañas de phishing y malware e incluso operaciones de influencia política originadas en varios países.
La delgada línea entre uso y abuso
OpenAI admite que no siempre es fácil distinguir el uso legítimo del abuso, ya que solicitudes como “traducir texto”, “crear código” o “generar un sitio web” pueden tener intenciones completamente diferentes según el contexto.
Por lo tanto, para evitar falsos positivos, la empresa dice que utiliza un “basado en patrones de comportamiento» y no sólo en mensajes individuales. Para ayudar, en algunos casos, se llevaron a cabo investigaciones con el apoyo de organizaciones internacionales de ciberseguridad y resultó en el cierre de varias cuentas sospechosas.
Protección para usuarios con “problemas”.
El informe se centra principalmente en las amenazas externas, pero OpenAI también tiene medidas internas para detectar y apoyar a los usuarios en riesgo de autolesión.
En otras palabras, tras la muerte de un adolescente que utilizaba ChatGPT, la empresa introdujo controles parentales y reforzó los sistemas de seguridad.
De esta manera, cuando ChatGPT detecta signos de angustia emocional, las conversaciones pasan automáticamente al GPT-5 instantáneo.
- Aviso: Un modelo capacitado para responder con empatía y recurrir a ayuda profesional real, como líneas de ayuda y servicios de emergencia.
¡El equilibrio entre privacidad y seguridad!
Como era de esperar, el seguimiento plantea dudas sobre la privacidad y transparencia de la plataforma. Sin embargo, OpenAI sostiene que es un mal necesario para proteger a los usuarios y al público.
Es el precio a pagar por tener una herramienta tan poderosa al alcance de todos.
Las llamadas spam están empeorando, pero aquí tienes el truco para acabar con ellas de una vez por todas
El nuevo coche eléctrico de Citroën se inspira en el 2 CV y cuesta 15.000 euros
