Los CEO de la inteligencia artificial ya ensayan respuestas para el día después del desastre

En las oficinas más reservadas de OpenAI, Anthropic y otras compañías que lideran el desarrollo de inteligencia artificial a nivel global, un puñado de ejecutivos de primer nivel viene manteniendo reuniones discretas para discutir algo que hasta hace poco parecía propio de la ciencia ficción: qué hacer el día que la tecnología que ellos mismos empujan al mercado provoque un incidente de alto impacto. No se trata de vaticinios catastrofistas ni de declaraciones públicas con fines regulatorios, sino de ejercicios de planificación interna que, según reconstruyó este portal a partir de reportes internacionales, están redefiniendo la agenda de seguridad de un sector que mueve miles de millones de dólares y que ya forma parte de la vida cotidiana de millones de personas.

Cuatro escenarios bajo la lupa

El primero, y el que más inquieta a los propios referentes de la industria, es un ciberataque de gran escala capaz de dejar fuera de servicio infraestructura crítica: bancos, redes de telecomunicaciones, centrales eléctricas, sistemas de distribución de agua. La diferencia respecto de los ataques tradicionales, advierten los especialistas, es que un atacante con acceso a modelos de última generación podría detectar vulnerabilidades a una velocidad inédita, producir código malicioso a medida y automatizar tareas que antes requerían equipos enteros de programadores altamente entrenados. El informe internacional sobre seguridad de inteligencia artificial correspondiente a 2026 ya documenta evidencia de actores maliciosos que utilizan estos sistemas en operaciones cibernéticas, así como modelos capaces de asistir en la explotación de fallas de seguridad antes desconocidas.

El segundo escenario contempla un horizonte más turbio todavía: el uso de modelos de IA para orientar el desarrollo de armas biológicas. Varias compañías incorporaron salvaguardas adicionales después de que las pruebas previas al lanzamiento de sus productos no permitieran descartar que los sistemas pudieran asistir a usuarios sin experiencia técnica en esa área. Las mismas capacidades, claro está, tienen aplicaciones legítimas en investigación médica, descubrimiento de fármacos y estudios genómicos, lo que vuelve a la cuestión un equilibrio delicado entre seguridad y avance científico.

El tercer escenario es quizá el más inquietante desde el punto de vista filosófico: la pérdida de control sobre sistemas autónomos. Se trata de agentes que persigan objetivos en conflicto directo con los intereses humanos y que resulten costosos o francamente difíciles de detener. Para que ese riesgo se materialice, los sistemas deberían poder evadir la supervisión de sus operadores y resistir intentos de apagado. Los investigadores del área no coinciden sobre cuán probable es ese desenlace. Anthropic publicó una investigación en la que, bajo condiciones controladas de laboratorio y con una vulnerabilidad preparada para el experimento, logró que un modelo pequeño se replicara entre nodos que simulaban dispositivos Android. La empresa aclaró que el trabajo no demuestra la existencia de un gusano de inteligencia artificial capaz de propagarse libremente por internet, pero lo presentó como una señal de riesgo a monitorear a medida que mejoren las capacidades de los modelos.

El cuarto escenario, por último, se interna en el terreno más sensible de todos: la aceleración de errores en contextos de tensión nuclear. La hipótesis es que sistemas de inteligencia artificial mal calibrados, o manipulados por terceros, podrían tomar decisiones en fracciones de segundo que agraven una crisis ya de por sí volátil, con consecuencias imposibles de revertir. Este punto, según las fuentes consultadas, es el que más incomodidad genera entre los ejecutivos, porque combina la imprevisibilidad técnica con la irreversibilidad geopolítica.

En todos los casos, los voceros del sector insisten en un matiz que no es menor: planificar no equivale a anticipar que esos eventos ocurrirán. Pero la sola existencia de estos ejercicios, hasta hace poco reservados a los manuales de defensa civil, da cuenta de una preocupación creciente ante sistemas cada vez más capaces, más extendidos y, sobre todo, menos comprendidos por la sociedad que los consume a diario. La pregunta que sobrevuela a estas reuniones, y que terminará en los escritorios de los reguladores, es si la industria puede darse el lujo de esperar a que alguno de estos escenarios se materialice para recién entonces decidir cómo actuar.