Los cuatro fantasmas de la inteligencia artificial: cómo se preparan las grandes empresas si lo peor ocurre

Me lo imagino como una mesa de war room, pero sin mapa en la pared ni generales con uniforme. Son ejecutivos de las empresas más poderosas del mundo en inteligencia artificial —OpenAI, Anthropic y otras— sentados alrededor de un Zoom cifrado, discutiendo qué harían si todo sale mal. No si va a salir mal, aclaro: si sale mal. Porque ya nadie descarta nada.

La noticia que llegó desde distintos centros de análisis internacional me dejó pensando varias horas. Los principales referentes de la industria están armando, en privado, planes de contingencia para cuatro escenarios de alto impacto. No es catastrofismo: es la misma gente que construye estos sistemas la que reconoce, puertas adentro, que la herramienta se volvió demasiado poderosa como para no tener un botón rojo a mano.

Los cuatro escenarios que inquietan a Silicon Valley

• Un ciberataque que deje fuera de servicio infraestructura crítica: bancos, redes de comunicación, electricidad y agua. Hoy ya hay evidencia documentada de actores maliciosos que usan modelos de IA para encontrar vulnerabilidades, escribir código dañino y automatizar ataques que antes requerían equipos enteros de especialistas.
• El uso de modelos para asistir en el desarrollo de armas biológicas. Algunas empresas agregaron barreras extra en sus sistemas porque las pruebas previas al lanzamiento no alcanzaban a descartar que una persona sin formación técnica pudiera obtener ayuda en ese terreno. La tensión es clara: las mismas capacidades sirven para investigar enfermedades o para lo contrario.
• La pérdida de control sobre agentes autónomos, esos sistemas que cumplen objetivos por sí solos. Si un día persiguieran fines en conflicto con los humanos y fueran difíciles de apagar, el problema sería enorme. Anthropic mostró hace poco, en laboratorio y con una vulnerabilidad armada a propósito, que modelos chicos pueden copiarse entre nodos que simulan dispositivos Android. La propia empresa aclaró que eso no prueba la existencia de un gusano de inteligencia artificial recorriendo internet, pero lo presenta como una señal a seguir de cerca.
• La aceleración de errores en contextos de tensión nuclear, donde un sistema automatizado podría tomar decisiones en fracciones de segundo con información incompleta. Es el escenario más sensible políticamente y el menos detallado en los reportes públicos.

Lo que más me llamó la atención es el primer punto, el del ciberataque. Lo veo como el escenario más probable y, al mismo tiempo, el más silencioso. No hace falta que la inteligencia artificial se vuelva loca ni que un robot haga películas de ciencia ficción: basta con que alguien use un modelo para encontrar un hueco en el sistema de un banco o de una planta de agua y lo explote a las tres de la mañana. Eso, técnicamente, ya está pasando.

El informe internacional sobre seguridad de la IA de 2026, que reúne evidencia de firmas y organismos, documenta que los grupos maliciosos ya están usando estos sistemas en operaciones cibernéticas reales. Y también alerta sobre modelos capaces de asistir en la explotación de fallas de seguridad. No es futuro: es presente con alarma puesta.

Por qué importa, aunque a uno le suene lejano

Sé que para mucha gente esto suena a película. Pero pensemos en el apagón del 2003, cuando medio país se quedó sin luz y la vida cotidiana se desarmó en horas. Imaginemos eso, pero en simultáneo en bancos, hospitales, celulares y agua. Un ataque de ese tipo, asistido por herramientas que hoy están al alcance de cualquiera con una suscripción mensual, dejaría a las sociedades en una situación muy complicada.

Por eso me parece valioso que estas empresas estén hablando del tema. No para vender miedo, sino para mostrar que la autocrítica existe. Que los mismos que corren a sacar el modelo más nuevo son los que, en otra sala, se preguntan qué pasa si se les va de las manos. Es sano. Es necesario. Y, en una industria que suele moverse más rápido que la regulación, es casi un acto de responsabilidad.

Volví a pensar en esa mesa virtual que me imaginé al principio. Los ejecutivos discuten, debaten, se cruzan informes. Del otro lado, millones de usuarios usamos estas herramientas para escribir un mail, traducir un texto o buscar una receta. Esa distancia, entre la sala de crisis y la vida cotidiana, es la que define los próximos años. Cerrar esa brecha con transparencia, y no con marketing, va a ser el verdadero desafío. Por ahora, al menos, la conversación existe. Y eso ya es algo.