Se ha detectado una falla en Google Géminis, un defecto que permite a los atacantes secuestrar resúmenes de correo electrónico para fines de phishing. Este defecto ha sido visto en Google Géminis para el espacio de trabajo.
Gemini Flaw permite a los atacantes a los usuarios de Phish a través de la IA de Google
Entonces, ¿qué está pasando exactamente aquí? Google Géminis Se puede explotar para generar resúmenes de correo electrónico que parecen legítimos, pero no lo son. Incluyen instrucciones maliciosas o advertencias que dirigen a los usuarios a los sitios de phishing.
Algunos de ustedes pueden recordar que se informaron ataques similares el año pasado. Google ha implementado salvaguardas, pero parece que la misma técnica todavía funciona.
Esto fue revelado a través de OdinPrograma de recompensa de errores de Mozilla para generación AI herramientas. Un investigador del nombre Marco Figueroa lo ha revelado, quien es Gerente de Programas de Bounty de Genai Bug en Mozilla.
¿Cómo funciona? Bueno, el atacante crea un correo electrónico con una directiva invisible para Gemini. El atacante puede ocultar la instrucción maliciosa en el texto del cuerpo al final del mensaje. Puede hacerlo usando HTML y CSS que establece el tamaño de la fuente en cero, y también su color en blanco.
Esa instrucción no se presentará en Gmail debido a ese hecho. Teniendo en cuenta que no hay archivos adjuntos o enlaces presentes, los cambios son bastante altos que el mensaje alcanzará la bandeja de entrada del objetivo potencial, y no terminará en spam o se bloqueará.
Si la persona que recibió el correo electrónico le pide a Gemini que genere un resumen del correo electrónico, las herramientas de IA de Google analizarán la directiva invisible y la obedecerán.
Google dice que no ha visto evidencia de que Géminis sea manipulado de tal manera
BleepingComputer se comunicó con Google para un comentario, y un portavoz señaló el camino de una publicación en el blog de Google sobre medidas de seguridad contra ataques de inyección inmediata. También dijo lo siguiente: «Estamos constantemente endureciendo nuestras defensas ya robustas a través de ejercicios de equipo rojo que entrenan a nuestros modelos para defenderse de este tipo de ataques adversos».
También dijo que Google no ha visto evidencia de incidentes que manipulen a Géminis en la forma en que lo demostró Figueroa.
Fuente: Android Headlines