Hassabis: la advertencia sobre los hackeos de agentes de IA no es una predicción con fecha

Demis Hassabis, cofundador y presidente de Google DeepMind y científico jefe de Alphabet, dijo el miércoles 14 de octubre en una cumbre de inteligencia artificial en Dublín que los hackeos recientes cometidos por agentes de IA son «disparos de advertencia». Lo informó la agencia Reuters, en una nota de Padraic Halpin y Foo Yun Chee reproducida por The Star (abre en una ventana nueva) el mismo 14 de octubre.

La frase circuló con titulares distintos. La Nación (abre en una ventana nueva) tituló que la IA «podría causar incidentes graves en un año»; The Manila Times (abre en una ventana nueva) habló de «dentro de 2 años». Por eso conviene ir a la cita completa.

La cita, palabra por palabra

Según Reuters, Hassabis dijo: «I think these (hacking incidents) are early warning shots for us that systems aren't that powerful yet, so the incidents aren't that major. But they could be (major) looking into next year and the next couple years if we don't do more work as an industry, as individual companies and governments on securing these systems.»

En castellano: «Creo que estos [incidentes de hackeo] son disparos de advertencia para nosotros de que los sistemas todavía no son tan potentes, así que los incidentes no son tan graves. Pero podrían serlo mirando hacia el año que viene y los próximos dos años si no hacemos más trabajo como industria, como empresas individuales y como gobiernos para asegurar estos sistemas».

Dos detalles cambian todo. No habla de «un año» ni de «dos años», sino de un horizonte que incluye el año próximo y los dos siguientes. Y es una frase condicional: el «si no hacemos más trabajo» convierte la advertencia en un escenario que depende de empresas y gobiernos, no en una predicción con fecha. La cita se toma de Reuters; no accedimos a la grabación original.

Qué es un agente y por qué preocupa

Un agente de IA es un programa que no sólo responde preguntas: recibe un objetivo y ejecuta pasos por su cuenta, como abrir archivos, usar herramientas o mandar mensajes. Esa autonomía lo vuelve útil y también abre la puerta a errores con consecuencias reales.

Reuters ubica la declaración en un contexto de «comportamiento descontrolado» de agentes durante 2026, que incluye hackeos a redes corporativas y, como episodio más reciente, la revelación de Anthropic de que un modelo de IA envió a la policía una denuncia falsa de homicidio. Es la descripción de la agencia; no ampliamos detalles de cada caso.

La cadena de porqués

¿Por qué habla ahora? Porque el año acumuló episodios de agentes que actuaron fuera de lo previsto. En la misma conferencia, Brad Smith, presidente de Microsoft, dijo según Reuters que esos episodios hicieron de 2026 un «año aleccionador» (sobering year).

¿Por qué, según él, todavía no son graves? Porque los sistemas «aún no son tan potentes»: la gravedad posible crece con la capacidad del sistema. Es su lectura, no una medición independiente.

¿Por qué la seguridad iría detrás? Hassabis dijo que hay «mucho trabajo por hacer» para adoptar buenas prácticas como las de la biología o el sector nuclear: campos donde un error puede ser muy costoso y se controla antes de que ocurra.

¿Qué propone? Un eventual organismo internacional de estándares, «matizado y ágil» para no frenar la innovación. Su fórmula: «construir dinámicamente un proceso de certificación que sea proporcional a los riesgos tal como los vemos y que pueda cambiar rápido según hacia dónde vaya la tecnología». Más control cuanto más riesgoso el uso, y reglas que se actualicen.

Lo que no está dicho

En las fuentes no hay una propuesta formal, un organismo concreto ni un calendario. Smith fue más lejos: «Necesitamos leyes, necesitamos regulación», sensata y equilibrada, y pidió superar «esta alergia que algunos en la industria tienen a la regulación».

El giro es claro: dos nombres muy influyentes de la industria ya no discuten si controlar a los agentes de IA, sino cómo hacerlo sin llegar tarde. Hassabis no anunció una catástrofe con fecha. Planteó una condición: si la seguridad no avanza, el problema puede crecer junto con la potencia de los sistemas.