Gigantes de la IA delinean protocolos ante cuatro hipótesis de desastre tecnológico

Los principales ejecutivos de las compañías que desarrollan inteligencia artificial de frontera -entre ellas OpenAI y Anthropic- trabajan en planes de contingencia para hipotéticos incidentes de alto impacto asociados a sus propios sistemas. La tarea no implica vaticinar que esos hechos vayan a producirse, pero evidencia la preocupación del sector frente a modelos cada vez más capaces y desplegados en múltiples industrias.

Un ciberataque a servicios esenciales, el riesgo más mencionado

La hipótesis que concentra mayor atención es un ataque cibernético que deje fuera de servicio infraestructura crítica: entidades bancarias, redes de telecomunicaciones, centrales eléctricas o sistemas de provisión de agua potable. Según el informe internacional sobre seguridad de la IA correspondiente a ese período, ya hay registro de actores maliciosos que se valen de herramientas de inteligencia artificial para detectar vulnerabilidades y producir código dañino, además de modelos capaces de asistir en la explotación de fallas de seguridad.

Los otros tres escenarios que las empresas ponen bajo la lupa

• Desarrollo de armas biológicas asistidas por IA: varios laboratorios reforzaron las salvaguardas de sus modelos después de que los controles previos al lanzamiento no permitieran descartar que el sistema pudiera guiar a usuarios sin formación técnica en esa área.
• Pérdida de control sobre sistemas autónomos: agentes de IA que persigan objetivos en conflicto con los intereses humanos y resulten difíciles o costosos de detener; los investigadores no coinciden en cuán factible es ese desenlace.
• Aceleración de errores en contextos de tensión nuclear: fallos de encadenamiento en escenarios críticos, un cuarto escenario contemplado por los directivos del sector.

Sobre la segunda hipótesis, las propias compañías reconocen que esas mismas capacidades tienen aplicaciones legítimas en investigación biomédica, lo que vuelve más complejo el trazado de límites. En cuanto a la pérdida de control, Anthropic publicó una investigación de laboratorio en la que, con una vulnerabilidad preparada para el experimento, logró la replicación de modelos pequeños entre nodos que simulaban dispositivos Android. La firma aclaró que el hallazgo no demuestra la propagación libre de un gusano de inteligencia artificial por internet, aunque lo presentó como una señal de riesgo a monitorear a medida que mejoren las prestaciones de los modelos.

El material consigna, además, que el cuarto escenario -vinculado a errores acelerados por IA en situaciones de tensión nuclear- no llegó a detallarse en el texto difundido. En el ámbito empresarial, la planificación de respuestas se mantiene como un ejercicio interno y reservado, sin que hasta el momento se hayan hecho públicos protocolos específicos. La industria tampoco difundió carátula ni instancia procesal asociada, dado que se trata de una evaluación de riesgos corporativos y no de una investigación judicial. El próximo paso en este frente depende de la evolución de los propios modelos y de la actualización de los estándares internacionales de gobernanza en inteligencia artificial.