Google Gemini se está utilizando para cometer delitos

Independientemente de las preocupaciones prácticas que se pueden fundar, la inteligencia artificial es extremadamente interesante. Chatbots y LLM como Google Gemini y ChatGPT son puertos de entrada para aplicaciones AI únicas. Sin embargo, ver cómo funcionan internamente puede tomar durante horas. Entonces, tal como podemos usar Google Gemini para resolver problemas matemáticos complejos o correos electrónicos profesionales, estos chatbots se pueden usar para crímenes. Esto es exactamente lo que está sucediendo. Como tal, trae nuevos contornos a los pros y los contras del uso de IA en la vida diaria.

Google Gemini: la inteligencia artificial puede ayudar a cometer crímenes

Google Threat Intelligence Group ha publicado un artículo en el blog de Google Cloud (a través de la policía de Android), el 29 de enero, sobre el uso inadecuado de las capacidades generativas de IA de Gemini. Es un artículo completo que cubre toneladas de puntos de datos, incluida la discusión de quiénes son los actores generales en el uso criminal de Géminis y de dónde provienen. Google reconoció que los grupos criminales respaldados por gobiernos de China, Rusia, Corea del Norte e Irán han usado Géminis para reconocer «objetivos probables», ayuda en la codificación y la resolución de problemas, evitan la detección y el aumento de los privilegios. Es una inmersión profunda fascinante en preocupaciones muy reales sobre aquellos que tienen acceso a la tecnología que es, en el fondo, neutral en su moralidad.

Los delincuentes que usan tecnología para lograr sus objetivos nunca dejarán de hacerlo. Como tal, continuará este comportamiento a medida que se adopten las herramientas de IA. Ya hay los días de correos electrónicos de phishing mal escritos. En cambio, los esquemas de IA que usan cosas como clonación de voz, defectos profundos, análisis de productos falsos y ofertas de trabajo falsos para capturar a sus víctimas. Es importante ser alfabetizado en la IA, aprender a reconocer imágenes generadas por IA, evitar esquemas de trabajo en línea, saber si está hablando con un chatbot de IA y simplemente es más cauteloso en línea.

Se acerca una nueva versión

Mientras estos problemas continúan luchando y Google continúa produciendo actualizaciones de Géminis. Gemini 2.0 Flash ahora está llegando a todos. Esto incluye usuarios gratuitos y promete respuestas mejoradas a las tareas de escritura, aprendizaje y lluvia de ideas. Hay muchas formas de usar la IA para simplificar partes de nuestra vida diaria sin exagerar. Sin embargo, queremos querer o no, el tren ya ha dejado la estación. AI es parte de nuestras vidas. Como tal, continuará siendo inyectado en todas partes. Por lo tanto, aprender a trabajar con ella en lugar de ella se volverá crítica.