La advertencia de Harari sobre la inteligencia artificial: el poder podría quedar en manos de sistemas que no entendemos

El historiador Yuval Noah Harari eligió una comparación para explicar su preocupación por el avance de la inteligencia artificial: una vaca puede reconocer a los humanos, pero no comprende el dinero ni el papel que cumple en las decisiones que afectan su vida. Según planteó en la televisión pública checa, las personas podrían quedar en una posición semejante frente a sistemas cada vez más difíciles de entender.

Su advertencia no se concentra en una escena de robots armados en las calles. El riesgo que describió es menos visible y, por eso mismo, nos invita a mirar de cerca actividades cotidianas: la administración de la plata, los trámites y las decisiones que se toman dentro de instituciones financieras.

La ventaja de las máquinas en el mundo de los trámites

Harari sostuvo que tareas como procesar datos, seguir expedientes o completar formularios resultan agotadoras para las personas, mientras que los sistemas de inteligencia artificial pueden desenvolverse en ese terreno con mucha más facilidad. Como ejemplo, señaló que un empleado no puede retener el historial completo de operaciones de un banco, pero un sistema sí podría hacerlo.

A partir de esa capacidad, el historiador prevé que en diez o veinte años podríamos vivir bajo un sistema financiero diseñado por inteligencia artificial que no podamos comprender. La preocupación va más allá de la tecnología: las leyes, los bancos y los Estados permitieron que los seres humanos cooperaran a gran escala, y trasladar parte de esa capacidad a otra inteligencia modificaría quién toma las decisiones.

El desafío de saber quién responde

Para Harari, una de las preguntas centrales es quién se hace responsable cuando falla un sistema de inteligencia artificial. Si las personas mantienen el control, deben poder responder por sus consecuencias; si no lo tienen, el problema es reconocer que decisiones importantes quedaron fuera de su alcance.

En la Argentina, la discusión sobre la responsabilidad aparece en un contexto de crecimiento del fraude digital, aunque esos datos no indican por sí solos que los casos hayan sido causados por inteligencia artificial. La Unidad Fiscal Especializada en Ciberdelincuencia registra que más del 70 por ciento de las denuncias por ciberdelitos corresponde a fraude digital y suplantación de identidad. Además, un informe de CertiSur y D'Alessio IROL señaló que el 43 por ciento de los usuarios de internet del país sufrió un hackeo o fraude digital entre 2025 y el primer semestre de 2026, frente al 33 por ciento del período anterior.

El Banco Central, por su parte, exigió a los proveedores de pagos que respondan cuando algo falla. Sin resolver todas las preguntas que plantea Harari, la medida pone el foco en un punto para los usuarios: saber a quién reclamar cuando una operación digital sale mal.

Por Nahuel Quintriqueo, Turismo de nieve y montaña.