Soy un entusiasta del desarrollo tecnológico, incluida la IA. Y me opongo a las voces que piden cancelarla o detenerla porque "es mala".
Creo que el desarrollo tecnológico trae progreso como la historia nos ha ilustrado, pero también es cierto que no solo importa el desarrollo tecnológico per sé, sino las decisiones que se tomen en torno a ese desarrollo como bien explica el economista Daron Acemoglu. Por ejemplo, es cierto que la Revolución Industrial fue un evento determinante en el crecimiento del bienestar humano, pero es cierto que al principio incluso generó precariedad y mucha contaminación. Además del incremento de salarios y descubrimientos tecnológicos, fueron necesarias decisiones políticas, luchas obreras e incluso empresarios como Henry Ford que se dieron cuenta que a los obreros había que pagarles bien para mejorar su productividad.
Por ello es que creo es que las empresas de IA necesitan pausar por un tiempo el desarrollo de sus modelos, para evitar que se les salga de las manos (de lo cual ya hay varios avisos, como el sonado caso de Open AI y Hugging Face).
La alineación (con los intereses de la especie humana) es un tema crucial, y el desarrollo de modelos debería estar sujeto a mecanismos y reglas que hoy no existen, o existen de forma tan incipiente que no son para nada suficientes.
Además, una pausa le daría tiempo a la sociedad para adaptarse. La velocidad con la que avanzan estos modelos ya está generando efectos colaterales. Un ejemplo claro es la educación: ni las instituciones de avanzada de los países desarrollados están preparadas (imagínense la escuelita de Marx Arriaga).
Y aunque los modelos no crecieran durante ese tiempo, las tecnologías sobre las que operan (chips, infraestructura) sí lo harían, con lo cual los modelos de frontera actuales se volverían más asequibles al público. A eso hay que sumar la presión hídrica y el impacto ambiental de los data centers (los cuales no satanizo, pero sí espero que mejoren en el uso de recursos). Como los modelos mejorados exigen cada vez más cómputo, una pausa reduciría la necesidad de seguir escalándolos y permitiría trabajar en cómo usan recursos y gastan energía, para hacerlos más sustentables.
Y sí, aquí la regulación gubernamental importa (pero bien hecha y con gente experta detrás de las políticas públicas). No es algo que se pueda dejar a las meras dinámicas del mercado (llora en libertario). Ahora bien, creo que la IA debe estar en manos privadas (y cuantos más actores, mejor) antes que en manos del Estado, lo cual me parece bastante más peligroso.
El problema es que no hay incentivos para detener temporalmente el desarrollo. ¿Por qué? Por la batalla geopolítica entre Estados Unidos y China, que funciona como una suerte de dilema del prisionero: si Estados Unidos pausa y renuncia a ciertas ventajas, China queda en franca ventaja, y viceversa.
Tendría que haber un acuerdo entre ambos países. Eso se me hace muy complicado, no solo porque la IA es hoy el pináculo de la disputa geopolítica entre ambas naciones, sino porque sospecho que no sería nada fácil garantizar que el "adversario" en efecto no está entrenando modelos.
Y claro, no es buena noticia que el auge de la IA ocurra en medio del deterioro (o tal vez el ocaso) de la democracia liberal y del ascenso de populismos de derecha y de izquierda que suelen despreciar la institucionalidad y los contrapesos, justo cuando más los necesitamos.
Pero nada de esto implica que la IA deba cancelarse. Es una tecnología que, bien usada, puede traer mucha prosperidad. Contrario a lo que muchos piensan, la AGI (de la que estamos mucho más lejos de lo que se dice) sí es deseable, siempre que se llegue a ella con los mecanismos correctos.
La IA seguramente será capaz de encontrar medicamentos y procedimientos que mejoren muchísimo nuestra salud y calidad de vida, aunque mal usada alguien podría crear armas biológicas con ella. Bien usada, seguramente ayudará a desarrollar tecnologías y mecanismos contra el cambio climático y a crear un entorno tan saludable que las afectaciones actuales de los data centers parecerán peccata minuta.
La IA es tal vez la tecnología más importante después de la imprenta (si no es que más). Sería un craso error banearla y prohibirla como en la Inquisición medieval, pero tampoco debemos sumirnos en una vorágine que abandone la cautela y no le deje a la sociedad tiempo para respirarla y adaptarse.
Porque, como dijo el buen Chente FernAIndez: "No hay que llegar primero, hay que saber llegar".
