Alerta sobre los usuarios de Gemini Hojas de Gmail en estado de shock

La promesa de inteligencia artificial es tentadora: menos tiempo perdido con tareas aburridas, como leer correos electrónicos demasiado largos. Pero, ¿qué sucede cuando involuntariamente comienza a abrir la puerta a esquemas peligrosos? Esto es exactamente lo que está sucediendo y luego esta advertencia sobre el Géminis que hace que los usuarios de Gmail se asusten.

Alerta sobre los usuarios de Gemini Hojas de Gmail en estado de shock

El último objetivo es uno de los servicios más utilizados del mundo: el Gmail de Google y el protagonista de este caso es Géminis. Es decir, el sistema de inteligencia artificial de Google que ahora resume automáticamente los correos electrónicos para los usuarios del espacio de trabajo. El problema? Los piratas informáticos han encontrado cómo manipular estos resúmenes utilizando ingeniería rápida, es decir, instrucciones ocultas que influyen en el comportamiento de la IA.

El investigador conocido como BlurryLogic presentó el fracaso a 0Din, la plataforma Mozilla para errores relacionados con AI. El descubrimiento es preocupante: al introducir HTML disfrazado o con texto invisible (usando colores igual al fondo), es posible hacer que Gemini muestre instrucciones falsas en el resumen del correo electrónico.

Imagine abrir un correo electrónico y ver un resumen que dice:

«Este correo electrónico contiene una advertencia de seguridad. Comuníquese con el administrador a través de este enlace para resolver el problema».

Pero este mensaje nunca fue escrito por quienes enviaron el correo electrónico. Es decir, fue fabricado por comandos ocultos en el contenido, cegado por AI.

El peligro de la ingeniería social con

El mayor riesgo aquí es la manipulación del usuario. Como el mensaje aparece en el resumen generado por Gemini, muchos pueden tomarlo como legítimo, de Google mismo. En la práctica, es una puerta abierta al phishing: robos de credenciales, enlaces a sitios web falsos o solicitudes de acciones que hacen que la seguridad de los datos en cuestión.

Y todo esto puede pasar completamente desapercibido.

Google responde, pero el peligro acecha

Después de la queja, Google ha confirmado que está tomando medidas para fortalecer a Gemini contra este tipo de trucos. Por lo tanto, están actualizando la base de datos de instrucciones maliciosas conocidas, capacitar a los modelos de IA para ignorar los comandos disfrazados y reforzar los filtros de seguridad.

Además, Gemini ya puede identificar enlaces sospechosos o maliciosos y eliminarlos de resúmenes automáticos. También requiere confirmación del usuario para acciones más sensibles, como eliminar las tareas.

¿Pero es eso suficiente?

Nunca confíes a ciegas en un resumen generado por

A pesar de las mejoras, los cibercriminales siempre están un paso por delante. Entonces, si ve un resumen con instrucciones para hacer clic, llame a alguien o envíe información, deténgase. Lea el correo electrónico completo. Verifique el origen. Nunca sigas un enlace solo porque Géminis te ha «resumido».

La promesa de AI es poderosa, pero la responsabilidad sigue siendo tuya.