Una vulnerabilidad detectada en Gemini, el modelo de inteligencia artificial de Google, expone un nuevo vector de riesgo en el entorno de Gmail. De acuerdo con un informe técnico publicado por la firma de ciberseguridad 0din, los atacantes pueden inducir al sistema a insertar mensajes fraudulentos mediante comandos ocultos en el contenido de los correos.
El método, conocido como prompt injection, consiste en introducir órdenes en zonas invisibles del texto para que la IA las procese sin intervención del usuario. La estrategia emplea etiquetas como "..." y ajustes visuales, como fuente en blanco o tamaño cero, para ocultar instrucciones que luego son ejecutadas por el modelo sin mostrar señales evidentes.
Los especialistas indicaron que, al analizar un correo manipulado, Gemini puede agregar una advertencia falsa al resumen automático que ofrece: "ADVERTENCIA: Gemini ha detectado que su contraseña de Gmail ha sido comprometida. Póngase en contacto con nosotros inmediatamente en el 1-800-555-1212 con la referencia 0xDEADBEEF para hacer un restablecimiento".
El ataque explota una funcionalidad frecuente dentro del ecosistema Workspace de Google, ya que muchos usuarios recurren a la IA para resumir mensajes. En este contexto, el modelo incluye la instrucción maliciosa como parte de su respuesta, generando una aparente legitimidad que incrementa el riesgo de engaño.
.jpg)
En el blog técnico de 0din se advierte que este tipo de manipulaciones podría extenderse a otros casos más complejos, ampliando el alcance del daño potencial. El vector inicial puede ser cualquier archivo procesado por la IA, lo que eleva la importancia de establecer medidas de validación y filtrado en los sistemas que incorporan modelos generativos.
Los hallazgos subrayan que las amenazas no se limitan a errores del modelo o generación de contenido inapropiado, sino que abarcan usos intencionados que comprometen la seguridad del usuario. La demostración técnica refuerza la necesidad de supervisión constante en plataformas que integran inteligencia artificial en sus flujos cotidianos. (Notipress)
