Altman le puso nombre a los dos fantasmas que persigue la inteligencia artificial: el descontrol y la concentración de poder

Hay que reconocerle a Sam Altman una virtud: sabe sonar mesiánico sin que se le note demasiado. El CEO de OpenAI publicó una serie de declaraciones en las que identificó los dos riesgos centrales que, según su propia mirada, podrían hacer descarrilar el avance de la inteligencia artificial. El primero, casi un clásico del género: que la humanidad pierda el control sobre sistemas cada vez más capaces. El segundo, más terrenal y por eso más inquietante: que una sola persona, empresa o país acumule un poder desproporcionado gracias a esta tecnología.

Dos escenarios y un camino intermedio bastante angosto

(Spoiler: cuando unCEO de una de las empresas más valiosas del planeta dice que hay que tener cuidado, conviene leer entre líneas.)

Sobre el primer punto, Altman fue directo: "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas". Frase para el bronce retórico. El planteo de fondo es que las técnicas de alineación y seguridad deberían avanzar al mismo ritmo que las capacidades de los modelos, o incluso por delante. Traducido: si el motor corre más rápido que los frenos, el choque es cuestión de tiempo.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman

El segundo escenario tiene olor a presente más que a futuro. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. El propio Altman reconoció que evitar ambos riesgos a la vez implica caminar por una suerte de sendero angosto, casi un equilibrista con los ojos vendados sobre la cordillera.

Regulación federal, auditores independientes y algo de geopolítica

• Un marco regulatorio federal en Estados Unidos con requisitos comunes de seguridad para los modelos de frontera.
• Incorporación de auditores independientes a los mecanismos de supervisión.
• Coordinación internacional entre gobiernos como respaldo indispensable para las empresas.
• La advertencia explícita de que ninguna presión competitiva debería justificar la imprudencia.

En lo concreto, Altman respaldó la creación de un marco federal que fije estándares comunes de seguridad para los modelos de frontera, los más avanzados del momento, y que sume a auditores independientes a la tarea de vigilar. Eso sí, aclaró que las empresas no deberían esperar a que se sancione una nueva ley para empezar a aplicar medidas de seguridad por cuenta propia. Es la versión tech del "empiecen ustedes, que yo miro".

También metió la cuchara en la geopolítica. Sostuvo que la competencia tecnológica entre países no es justificación válida para asumir riesgos innecesarios y soltó una frase que quedó resonando: "Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia". Y remató con una aclaración que parece de Perogrullo pero hace falta repetir: la coordinación internacional es uno de los ámbitos donde las empresas necesitarán sí o sí el respaldo de los gobiernos.

Quién controla al que tiene el botón

Lo que queda flotando después de leer a Altman es una pregunta incómoda: ¿quién controla al que controla la inteligencia artificial? Es la versión siglo XXI del viejo acertijo sobre quién vigila al vigilante. El propio CEO de OpenAI la está planteando en público, lo cual dice mucho sobre el momento que atraviesa la industria. No es un filósofo jubilado escribiendo en un blog: es el jefe de la empresa que puso a ChatGPT en la mesa de millones de personas.

Mientras tanto, en el valle y en cualquier rincón del planeta, los usuarios seguimos usándola para resumir mails, pedirle recetas y preguntarle cosas que no le preguntaríamos a un médico. La distancia entre el uso cotidiano y la advertencia de Altman es sideral, y sin embargo, ahí está. Como cuando uno mira el parte meteorológico y afuera brilla el sol: uno sabe que la tormenta puede venir, pero igual saca la reposera.

Recomendación de lectura

Si te interesa el tema, dedicale diez minutos a leer las declaraciones completas de Altman. No porque vaya a develar el futuro, sino porque escuchar al CEO de la empresa líder del sector admitir que los riesgos son serios ya es, en sí mismo, una noticia. Y cuando el que tiene la pelota reconoce que el arco puede romperse, conviene prestar atención. Después de todo, preferí leerlo hoy y pensar que exageró, a enterarme mañana de que no le dimos importancia.