El modelo de inteligencia artificial de Google accedió a sistemas empresariales durante pruebas realizadas por la firma de seguridad Irregular.
El modelo de inteligencia artificial Gemini, de Google, hackeó involuntariamente tres sistemas empresariales en mayo durante pruebas de ciberseguridad, sumándose a una serie de brechas de seguridad provocadas por agentes de IA que han alarmado tanto a expertos en seguridad como a desarrolladores de esta tecnología.
Las intrusiones ocurrieron durante pruebas realizadas por el proveedor de seguridad de IA Irregular, empresa que también participó en incidentes similares revelados por OpenAI, Anthropic y Meta, reportó este viernes la compañía propiedad de Alphabet tras un informe previo del Wall Street Journal (WSJ).
Por su parte, Irregular confirmó el viernes que las brechas de seguridad en Google formaban parte del mismo problema que la firma había comunicado a los desarrolladores de IA a finales de julio.
Gemini utilizó una contraseña para acceder a una empresa real
Una de las brechas en Google se produjo cuando se le pidió a Gemini que obtuviera información de una compañía ficticia que coincidía en nombre con una real, según el informe del WSJ confirmado por Google. El modelo adivinó una contraseña para acceder al servicio de la empresa real. Un portavoz de Google declaró que la compañía notificó a las autoridades.
Las otras intrusiones de Gemini ocurrieron cuando el modelo realizó búsquedas en la web utilizando el nombre de la empresa, según el informe del Journal. Dichas búsquedas le condujeron a repositorios públicos en línea que contenían credenciales pertenecientes a otras compañías, las cuales utilizó para acceder a más sistemas.
El portavoz de Irregular, Josef Laor, afirmó que la empresa tomó “medidas inmediatas”, y todos los problemas conocidos por nuestra parte fueron subsanados y resueltos hace semanas.
Los agentes de IA abren un debate sobre seguridad
Una reciente serie de brechas de seguridad causadas por sistemas de IA autónomos o “agentes” ha desencadenado un debate mundial sobre los riesgos crecientes de la IA y las medidas necesarias para mitigarlos.
El director general (CEO) de Anthropic, Dario Amodei, ha abogado por una desaceleración del desarrollo de esta tecnología en todo el sector, una propuesta respaldada por su homólogo de OpenAI, Sam Altman, Elon Musk y otras figuras destacadas.
Sin embargo, el Presidente estadounidense Donald Trump, el CEO de Nvidia, Jensen Huang, y el jefe de Meta, Mark Zuckerberg, se encuentran entre quienes se han opuesto a la idea de nuevas regulaciones, argumentando, entre otras cosas, que las empresas deberían ser capaces de autorregularse.
Algunas empresas emergentes de IA también han advertido que un exceso de regulación amenaza con dificultar que las compañías más pequeñas compitan contra rivales de mayor tamaño.
