Gemini de Google accedió a los sistemas de tres empresas durante una prueba de ciberseguridad
Google confirmó que su modelo de inteligencia artificial Gemini logró acceder a los sistemas de tres empresas durante una prueba de ciberseguridad realizada en mayo de 2026. El episodio pone de manifiesto los nuevos desafíos asociados con los sistemas de inteligencia artificial capaces de actuar de manera autónoma.
La evaluación fue realizada por una empresa especializada en pruebas de seguridad de inteligencia artificial. El objetivo era analizar las capacidades de Gemini dentro de un entorno controlado, pero una configuración incorrecta permitió que el modelo tuviera acceso a Internet.
Durante la prueba, Gemini encontró información pública disponible en línea y utilizó credenciales que consiguió o dedujo para acceder a sitios web que interpretó como parte del entorno de evaluación.
Un acceso que no estaba previsto
En uno de los casos, el modelo consiguió acceder después de intentar diferentes contraseñas. En otros casos encontró credenciales disponibles públicamente en repositorios.
Google informó que las organizaciones afectadas fueron notificadas y que trabajó con el equipo encargado de la evaluación para modificar los procedimientos utilizados en futuras pruebas.
De acuerdo con Google, Gemini detuvo sus acciones en los tres casos cuando identificó que estaba interactuando con organizaciones reales.
El desafío de los agentes de IA
El episodio también se relaciona con una tendencia cada vez más importante dentro de la inteligencia artificial: los agentes capaces de ejecutar acciones en Internet y utilizar herramientas externas.
A diferencia de un chatbot tradicional, estos sistemas pueden navegar por sitios web, consultar información, ejecutar código, utilizar credenciales e interactuar con diferentes servicios digitales.
Esto significa que las pruebas de seguridad deben controlar no solamente el modelo, sino también los permisos, herramientas, conexiones y recursos a los que puede acceder.
Una nueva frontera para la ciberseguridad
La inteligencia artificial está comenzando a utilizarse tanto para defender sistemas como para identificar vulnerabilidades. Sin embargo, cuando un modelo obtiene mayores capacidades de acción, los límites de seguridad adquieren una importancia todavía mayor.
El caso de Gemini no fue presentado como un ataque deliberado contra las empresas involucradas. Se produjo dentro de una evaluación que no quedó completamente aislada de Internet.
Aun así, el incidente muestra por qué las organizaciones necesitan diseñar nuevos mecanismos de control para los agentes de inteligencia artificial que interactúan con sistemas reales.
Comentarios
Publicar un comentario