Se está explotando una vulnerabilidad en Google Gemini para convertir los resúmenes de correo electrónico impulsados por inteligencia artificial en una herramienta de phishing.

Se ha descubierto una grave vulnerabilidad de seguridad en Google Gemini para Workspace, que los atacantes pueden explotar para insertar código malicioso en los correos electrónicos. Estas instrucciones podrían indicar a la herramienta de IA que engañe a los usuarios y los redirija a... Sitios de phishing.

De acuerdo con el reporte Bleeping ComputerEsta vulnerabilidad se basa en la creación de resúmenes de correo electrónico que parecen completamente normales, pero que contienen instrucciones o advertencias maliciosas ocultas. Gemini ejecuta estas instrucciones automáticamente al generar el resumen del mensaje.

El mecanismo de ataque se basa en la incrustación de directivas Gemini invisibles en el correo electrónico. Esto se logra ocultando las instrucciones al final del cuerpo del mensaje mediante código HTML y CSS, y estableciendo el tamaño de fuente a cero y el color a blanco. Dado que este texto adicional no incluye archivos adjuntos ni enlaces, ni siquiera los mejores antivirus o programas de correo electrónico lo detectarán ni lo marcarán, lo que aumenta la probabilidad de que llegue a la bandeja de entrada de una posible víctima.

Cuando el usuario objetivo abre el correo electrónico y solicita a Gemini que resuma su contenido, el software de IA ejecutará automáticamente las instrucciones ocultas que detecte. Los usuarios suelen confiar en la capacidad de Gemini para procesar contenido como parte de Workspace, por lo que la alerta se percibe como una advertencia legítima y no como una inyección maliciosa.

Durante el último año se han reportado ataques similares y, a pesar de que se están implementando algunas medidas preventivas para bloquear respuestas engañosas, la técnica sigue siendo generalmente exitosa, lo que explica su uso continuo.

Bleeping Computer informó que cuando le preguntaron a Google sobre las defensas contra este tipo de ataques, un portavoz de la compañía indicó que مدونة En cuanto a los ataques de inyección de código, explicó que existen medidas preventivas ya implementadas o que se implementarán próximamente. Google también confirmó que aún no hay evidencia de que este ataque se haya producido en la práctica.

Figueroa, administrador del programa de recompensas por errores GenAI de Mozilla, quien descubrió la vulnerabilidad, sugiere algunas ideas para prevenir esta amenaza: los equipos de seguridad deberían eliminar, neutralizar o ignorar el contenido diseñado para ocultarse en el cuerpo del mensaje. Como alternativa, podrían implementar filtros que analicen Gemini en busca de mensajes urgentes, URL y números de teléfono, marcándolos para su posterior revisión por parte de los usuarios.

Por ahora, ten cuidado al usar Gemini para resumir correos electrónicos, ya que nunca se sabe qué podría estar oculto. Esperamos que Google publique una solución para este nuevo tipo de ataque lo antes posible.