Hinton vuelve a encender la alarma: advierte que la humanidad tiene entre un diez y un veinte por ciento de chances de extinguirse por culpa de la inteligencia artificial

Les cuento de entrada el parte del día en la redacción: el tema que nos ocupa hoy no tiene nieve ni cerro, pero sí una helada que viene de lejos y que, según uno de los cerebros más respetados del planeta, puede terminar congelándonos a todos. Geoffrey Hinton, el científico británico-canadiense que hace rato viene sacudiendo el debate público con sus advertencias sobre la inteligencia artificial, volvió a la carga y esta vez lo hizo con números concretos que dan escalofríos. El investigador, que en 2023 dejó su cómodo sillón en Google justamente para poder hablar sin ataduras corporativas, viene repitiendo hace meses que la humanidad nunca se topó con entidades más inteligentes que ella misma, y que esa diferencia cualitativa es el verdadero punto ciego del momento. Pero lo que ahora prendió fuego las redes y las mesas de redacción de medio mundo fue su estimación cruda: existe entre un diez y un veinte por ciento de probabilidades de que los sistemas superinteligentes que se vienen encima provoquen el fin de la especie humana en un horizonte de unos treinta años. Un número que él mismo atribuye a que el avance de la tecnología superó con creces las proyecciones que manejaba apenas una década atrás, cuando todavía creía que el desarrollo sería más lento y, sobre todo, más controlable.

Les soy franco, mientras leía el material de base no podía dejar de pensar en cómo se nota el cambio de época. Hinton no habla desde el miedo al cambio ni desde la ignorancia: habla desde adentro, desde alguien que ajudou a construir las herramientas que hoy lo desvelan. Por eso, cuando uno escucha sus argumentos, tiene que tomárselos muy en serio, porque no es un crítico externo al show, es un ex director de escena que conoce cada truco del escenario.

El acelerador sin volante, una metáfora que incomoda

Hinton eligió una imagen que me parece brillante y a la vez bastante cruel para graficar el problema que tenemos enfrente. Dijo que la innovación tecnológica funciona como el acelerador de un automóvil: cuanto más se pisa, más rápido se va, pero sin un volante que oriente la dirección, esa velocidad extra no es progreso, es peligro puro. En su esquema mental, la regulación gubernamental no es un freno molesto ni un obstáculo a la innovación, sino ese volante imprescindible para que la humanidad no termine estampada contra un paredón. La idea es bastante directa y no necesita demasiados adornos: si no hay quien gobierne el timón, lo que viene es un choque inevitable.

Ante la objeción de quienes argumentan que regular pone en desventaja a un país frente a sus competidores internacionales, Hinton responde con una lógica que me cierra bastante y que creo que vale la pena repetir acá porque muchos lectores me la van a preguntar. Confiar en que el mercado se va a autorregular ante una amenaza de esta escala es, en sus palabras, un error estratégico enorme. La competencia geopolítica no puede ser excusa para postergar marcos legales globales. Lo dice alguien que vio de cerca cómo las grandes tecnológicas se mueven cuando hay plata de por medio, y lo dice además en un tono que no tiene nada de catastrofista sino más bien de cirujano que describe lo que ve en la mesa de operaciones.

Los modelos ya no leen patrones, entienden conceptos

Hay un punto del planteo de Hinton que a mí, particularmente, me hizo ruido porque cambia la categoría entera del riesgo que estamos discutiendo. El científico sostiene que los modelos de lenguaje más avanzados ya no se limitan a identificar correlaciones estadísticas en montañas de texto, como se repite todavía en algunos ámbitos técnicos. Según su análisis, estos sistemas comprenden efectivamente los conceptos semánticos y abstractos que procesan, y esa distinción cambia todo. No es lo mismo una herramienta que imita muy bien la conversación humana que una entidad que efectivamente entiende de qué está hablando. Para Hinton, esa diferencia es la que vuelve urgente el debate regulatorio y la que impide seguir mirando para otro lado.

Lo que más me preocupa, y se los digo con total sinceridad porque es lo que siento mientras escribo la nota, es la ventana de tiempo que el propio Hinton reconoce como cada vez más estrecha. La humanidad todavía puede definir la orientación ética de los sistemas que está construyendo, insistió, pero ese margen se va achicando a medida que los modelos ganan capacidad de forma autónoma. Es decir: mientras nosotros debatimos en parlamentos, medios y conferencias, la tecnología no nos espera.

• Hinton dejó Google en 2023 para poder hablar sin restricciones corporativas sobre los riesgos de la inteligencia artificial.
• Estima entre un 10 % y un 20 % las chances de que la IA superinteligente provoque la extinción humana en los próximos treinta años.
• Asegura que los modelos de lenguaje actuales comprenden conceptos abstractos, no solo patrones estadísticos.
• Compara la innovación sin regulación con un auto sin volante: más velocidad equivale a más peligro.
• Rechaza la autorregulación del mercado y reclama leyes globales para contener el avance tecnológico.

“Confiar en que el mercado se va a autorregular ante una amenaza de esta escala es un error estratégico enorme. La competencia geopolítica no puede ser excusa para postergar marcos legales globales.”Geoffrey Hinton, científico británico-canadiense y Nobel de Física 2024

Antes de cerrar la nota, les dejo el consejo práctico que suelo dejarles cuando el tema toca decisiones grandes y no hay respuestas simples. Si ustedes son lectores que trabajan en tecnología, en política, en educación o simplemente son curiosos responsables, mi sugerencia es no quedarse mirando la discusión desde la tribuna. Informarse, exigir debates serios en los ámbitos legislativos, apoyar a quienes piden regulación con evidencia y no con slogans, y fundamentalmente perderle el miedo al tema pero no la prudencia. Hinton no pide que apaguemos las máquinas, pide que aprendamos a manejarlas antes de que ellas nos manejen a nosotros. Y en esa diferencia, querido lector, se juega bastante más que una nota en un portal de noticias.