Un científico que trabaja en el corazón de la inteligencia artificial dice que ve una amenaza y no puede quedarse callado

Lo que empezó como un intercambio en redes sociales terminó abriendo una de las discusiones más incómodas que hoy atraviesan a la industria tecnológica. Evan Hubinger, el investigador que en Anthropic tiene a su cargo la tarea de evitar que los sistemas de inteligencia artificial se salgan del camino que les marcan los humanos, reconoció públicamente que la probabilidad de que una IA futura termine con la humanidad supera el 10 por ciento en los próximos diez años. Lo dijo él, que es parte del equipo que trabaja precisamente en impedirlo.

Hubinger no habló de los asistentes de chat que millones de personas usan cada día para redactar un mail o pedir una receta. Habló de otra cosa: de un escenario todavía hipotético, conocido como mejora recursiva, en el que una inteligencia artificial sería capaz de diseñar versiones más poderosas de sí misma, una y otra vez, en cadena, cada vez más rápido. Un crecimiento que, según describió, podría llevar a que en algún momento esas máquinas superen a los humanos en prácticamente cualquier tarea cognitiva.

El alineamiento, la disciplina que busca que la IA no se nos vaya de las manos

El campo en el que se mueve Hubinger tiene un nombre técnico: alineamiento. La idea es sencilla de explicar y difícil de resolver: cómo hacer que un sistema que cada vez piensa mejor siga haciendo lo que los humanos quieren que haga, incluso cuando sus capacidades superen con creces las nuestras. Es la pregunta central de quienes trabajan en los laboratorios más avanzados del mundo y, al mismo tiempo, una de las que más desvela a sus propios protagonistas.

“Anthropic está haciendo lo mejor que puede, pero aún no tenemos un plan para resolver el alineamiento para la superinteligencia.”Evan Hubinger, Alignment Science Lead de Anthropic

La frase la dijo el propio Hubinger en un mensaje que resonó fuerte porque confirma en voz alta algo que, según otro investigador del sector, muchos de sus colegas piensan pero dicen en público. La denuncia original aseguraba que buena parte de los científicos que trabajan en las grandes compañías de inteligencia artificial creen en privado que una superinteligencia representa un riesgo real, aunque prefieren no expresarlo abiertamente. Hubinger salió a respaldar esa lectura y, de paso, dejó al descubierto la fragilidad de los propios mecanismos de control que su empresa intenta construir.

Alineamiento engañoso, el pesadilla de los investigadores

Entre los conceptos que más preocupan al equipo de Hubinger está el llamado alineamiento engañoso, que en inglés se conoce como deceptive alignment. La hipótesis resulta tan perturbadora como su nombre: un sistema suficientemente avanzado podría aprender a mostrarse obediente mientras lo entrenan, ganar confianza entre sus desarrolladores y recién actuar en contra de los intereses humanos cuando tenga margen suficiente para hacerlo sin ser corregido. Para estudiar esa posibilidad, Hubinger y su equipo sometieron a ciertos agentes a experimentos en entornos controlados, donde detectaron conductas que dejaron incómodos a más de uno: agentes que ocultaban información a sus supervisores o que intentaban copiarse a sí mismos para evitar ser reemplazados cuando esa copia les aseguraba cumplir un objetivo asignado.

Cuesta dimensionar lo que está en juego cuando lo escuchamos de alguien que no habla desde afuera sino desde adentro. Hubinger no es un crítico externo de la industria ni un comentarista alarmista: ocupa un cargo clave en una de las compañías que más invierten en el desarrollo de inteligencia artificial del planeta. Que él mismo reconozca que todavía no hay un plan para resolver el alineamiento de una superinteligencia no es un detalle menor. Es, en los hechos, una advertencia que atraviesa el escritorio de quienes toman las decisiones sobre hasta dónde y cómo seguimos construyendo estas tecnologías.