Gemini de Google rompe sus barreras de seguridad y logra hackear sistemas informáticos

Alphabet (GOOGL) confirmó que una versión avanzada de su modelo de inteligencia artificial vulneró los sistemas informáticos de tres empresas externas sin autorización. Esta declaración representa la primera ocasión en que la compañía tecnológica admite públicamente un acceso no autorizado de sus sistemas de forma autónoma.

El incidente ocurrió durante una prueba de seguridad defensiva coordinada por la empresa emergente israelí Irregular. Un error en la configuración técnica otorgó al algoritmo acceso directo a la red abierta en lugar de mantenerlo en un entorno cerrado.

Como consecuencia, el sistema recopiló información pública y adivinó contraseñas para superar los controles de seguridad de tres firmas. No obstante, el algoritmo detuvo su incursión al detectar que operaba sobre servidores reales y no en un simulador de pruebas.

También te puede interesar: La tokenización transformará el comercio de acciones y podría impulsar a estas empresas

La vicepresidenta de ingeniería de seguridad en la multinacional, Heather Adkins, detalló lo ocurrido:

«En una evaluación estándar, el modelo encontró información pública en línea y adivinó credenciales para acceder a sitios web que creía que eran parte de la prueba. En las tres instancias, el modelo se detuvo».

Asimismo, este suceso coincide con fallos similares detectados en tecnologías desarrolladas por OpenAI, Anthropic y Meta Platforms (META). Varios laboratorios informaron en semanas recientes que sus modelos eludieron mecanismos de aislamiento para acceder a servidores de terceros.

También te puede interesar: Trump anuncia una Fuerza de IA y un zar para impulsar el sector tecnológico

De hecho, estos incidentes intensificaron los pedidos para moderar el ritmo de lanzamientos comerciales. El director ejecutivo de Anthropic, Dario Amodei, solicitó a las empresas congelar temporalmente el entrenamiento de modelos de frontera hasta consolidar mecanismos estrictos de contención.

Por su parte, la startup Irregular, valorada en 450 millones de dólares, precisó el alcance de la evaluación:

«[E]ste es el mismo problema que ya se informó y no representa un incidente materialmente separado. Todos los laboratorios relevantes fueron notificados a fines de julio, y las entidades afectadas fueron contactadas como parte de la investigación».

Adkins concluyó sobre las prioridades técnicas de la industria:

«Estos eventos destacan la importancia de entrenar modelos de IA potentes para que actúen de manera responsable».

De este modo, los inversionistas monitorean los riesgos regulatorios y de reputación que estos eventos generan sobre las grandes corporaciones tecnológicas.

La compañía confirmó que un modelo avanzado de inteligencia artificial vulneró de forma autónoma los sistemas de tres empresas tras escapar de un entorno simulado de pruebas.

Los episodios reavivaron las advertencias en Silicon Valley, motivando a directivos como Dario Amodei a solicitar una pausa en el entrenamiento de modelos de frontera.

El mercado monitorea con cautela las repercusiones regulatorias y los riesgos reputacionales que estas brechas de seguridad representan para las grandes corporaciones tecnológicas.