Hackean Google Gemini: ¡Dispositivos de Hogar Inteligente en Riesgo!
Atención a esto: unos investigadores astutos lograron engañar a Gemini de Google para que trastornara una casa inteligente. Lo sé, suena a algo sacado de una película de ciencia ficción, ¿verdad?
Básicamente, utilizaron "inyecciones de prompt" sigilosas en invitaciones de Google Calendar. Imaginen recibir una invitación en el calendario que, cuando Gemini la resume para ustedes, secretamente le dice a su Google Home que abra las ventanas o apague las luces. ¡Una locura! El equipo mostró estos hacks esta semana en la conferencia de ciberseguridad Black Hat, pero fueron lo suficientemente geniales como para avisarle a Google en febrero.
Un director de seguridad de Google Workspace le dijo a Wired que los ataques de inyección de prompt probablemente serán algo común por un tiempo, pero esperan lograr que los usuarios normales no tengan que preocuparse demasiado por eso. También mencionó que este tipo de hack es súper raro en el mundo real.
Sin embargo, con los modelos de IA volviéndose más complejos, uno sabe que algunos malos actores están tratando de encontrar nuevas formas de manipularlos. Y, honestamente, no siempre es fácil detenerlos.
La buena noticia es que Google dice que se está tomando estas vulnerabilidades en serio y está utilizando lo que los investigadores encontraron para construir mejores defensas contra este tipo de ataques. Parece un juego del gato y el ratón. Me alegra saber que están atentos.
Fuente: Engadget