El debate público sobre la inteligencia artificial suele girar alrededor de una sola pregunta: qué podrá hacer. En un extremo están quienes prometen que resolverá buena parte de nuestros problemas; en el otro, quienes advierten que podría volverse incontrolable. Entre estos últimos hay catastrofismo mal informado, pero también investigadores que ayudaron a crear la tecnología, como Geoffrey Hinton y Yoshua Bengio, cuyas advertencias merecen tomarse en serio. Lo que ambos bandos comparten es poner el foco en las capacidades, y ese enfoque deja en segundo plano dos preguntas que determinarán el efecto real de la IA en la vida de la mayoría: quién decide hacia dónde se desarrolla y quién se queda con sus beneficios. Yo sostengo que el problema central de la IA es de gobernanza, y que para entenderlo hace falta aceptar que la tecnología nunca es neutral.

Clayton Christensen, en su libro La Paradoja de la Prosperidad, llamó innovaciones creadoras de mercado a las que convierten en consumidores a personas que antes no podían acceder a un producto/servicio, porque lo vuelven asequible y sencillo de usar. De esa idea se desprende un criterio útil: el valor de una tecnología para una sociedad depende de cuántas personas pueden adoptarla y aprovecharla, y no solo de lo que la tecnología es capaz de hacer. Christensen confiaba en que esas innovaciones, impulsadas por el mercado, terminan por crear a las instituciones que las regulen. Aquí tomo su idea núcleo sin compartir del todo esa confianza, porque el mercado atiende a quienes es rentable servir, y muchas condiciones de acceso y uso no generan rentabilidad para nadie. Además, «beneficio para la mayoría» tiene al menos tres dimensiones que conviene separar. La primera es el acceso. Es decir, poder usar la herramienta. La segunda es la capacidad de uso productivo: las habilidades, los datos y las organizaciones rediseñadas que permiten sacarle provecho. La tercera es la distribución de las ganancias. O sea, quién se queda con el valor que la herramienta genera. En la IA generativa, el acceso se ha abaratado con rapidez gracias a versiones gratuitas y modelos abiertos. La brecha decisiva está en las otras dos dimensiones que el mercado, por sí solo, tiene pocos incentivos para cerrar.

Daron Acemoglu y Simon Johnson, en Poder y Progreso, explican por qué esa desconfianza tiene fundamento histórico. Su revisión de mil años de cambio tecnológico muestra que las ganancias de productividad no se reparten solas. Durante las primeras décadas de la Revolución Industrial, por ejemplo, la producción creció mientras los salarios y las condiciones de vida de los trabajadores apenas mejoraban. Para los ganadores del Nobel de Economía de 2024, la prosperidad compartida llegó cuando se cumplieron dos condiciones: que la tecnología elevara la productividad de los trabajadores en lugar de solo sustituirlos, y que existiera un poder compensatorio, como sindicatos, regulación o instituciones democráticas, capaz de exigir y repartir una parte de las ganancias. Su aporte más importante es que la dirección de la tecnología es una elección, y que hoy la está tomando un grupo reducido de personas con una visión particular del progreso. Si nadie disputa esa elección, el resultado previsible es poder y beneficios concentrados, y consecuencias (negativas, la mayor parte de las veces) de segundo y tercer orden que pagan otros.

La idea de que la tecnología no es neutral tiene una formulación clásica en el ensayo de Langdon Winner «¿Los Artefactos Tienen Política?», publicado en 1980, que retoma la distinción de Lewis Mumford entre técnicas autoritarias y democráticas. Winner propone dos maneras en que un artefacto encarna relaciones de poder. En la primera, el diseño concreto de una tecnología resuelve un asunto político dentro de una comunidad. Su ejemplo más ilustrativo es la cosechadora mecánica de tomate desarrollada con investigación universitaria en California, que exigía variedades más duras, solo los productores grandes podían costearla, y en pocos años el número de productores se redujo drásticamente. Nadie se propuso deliberadamente expulsar a los pequeños agricultores; el resultado surgió de decisiones razonables tomadas por quienes financiaban y aprovechaban la investigación. En la segunda manera, algunas tecnologías exigen, o al menos favorecen, ciertas formas de organización política, como la energía nuclear favorece la gestión centralizada y experta, mientras que la solar no lo hace. De ahí nace su analogía más conocida: las innovaciones tecnológicas se parecen a los actos legislativos, porque establecen un orden que dura generaciones. Esto no contradice que cada actor use la tecnología para su propia agenda. Ambas cosas ocurren a la vez: la tecnología amplía lo que ya existía, crea y modifica valores, y define el terreno en el que esas agendas compiten.

La lectura de Winner se vuelve más urgente cuando se recuerda que la IA es mucho más que los asistentes conversacionales que experimenta el ciudadano común. Gran parte de la IA no la usa la gente; opera sobre la gente. Está en los sistemas que califican el riesgo crediticio, asignan programas sociales, filtran candidatos a un empleo, moderan lo que circula en las redes o apoyan tareas de vigilancia. En cada uno, el diseño resuelve asuntos de poder: quién es elegible, qué errores se consideran aceptables y sobre quién recaen esos errores. Esas decisiones funcionan como legislación, pero las toman equipos técnicos y directivos que nadie eligió, casi siempre sin deliberación pública y con poca posibilidad de apelación para los afectados. Por eso la ausencia de gobernanza no equivale a libertad. Cuando no hay reglas, decide una élite en nombre de millones, y ni siquiera necesita usurpar nada, porque le basta con que las decisiones de diseño se tomen en espacios donde nadie más participa.

El problema se agrava porque los grupos involucrados persiguen metas incompatibles. Las empresas buscan participación de mercado y rendimiento para sus inversionistas; los Estados, ventaja geopolítica y seguridad; los trabajadores, empleo y capacidad de negociación; los investigadores, avance científico y reconocimiento; los ciudadanos, mejores bienes y servicios y protección frente a la inseguridad. Cada decisión, racional desde la posición de quien la toma, empuja al sistema en una dirección distinta. Donella Meadows describió este patrón en Pensar en Sistemas con el nombre de resistencia a las políticas: cuando varios actores tiran del sistema hacia metas propias, sus esfuerzos se neutralizan y el sistema queda atrapado en un estado que no satisface a nadie, mientras todos gastan energía en sostener el forcejeo. Su salida más prometedora es encontrar una meta más amplia que alinee a los actores, y en su jerarquía de puntos de apalancamiento, cambiar las metas de un sistema está entre las intervenciones más poderosas. Lo llamativo es que se habla mucho de lo que la IA podrá hacer y muy poco, en concreto, de qué le corresponde hacer a cada grupo de interés para que esa meta común exista.

Decir que el problema es de gobernanza no significa que las capacidades tecnológicas sean irrelevantes. La velocidad con que avanzan los modelos es parte del problema, porque las instituciones y organizaciones se adaptan en años y la tecnología cambia en meses (¿días?). David Collingridge formuló el dilema en 1980: al principio, una tecnología es más fácil de rediseñar, pero aún no estamos seguros de sus efectos a mediano y largo plazo; cuando los conocemos, esta ya está tan arraigada que cambiarla resulta muy costoso, en varios frentes. El segundo sentido de Winner permite plantear la pregunta de fondo. La IA de frontera (la que no usa por lo general el ciudadano promedio) exige enormes cantidades de capital, cómputo, energía y datos, lo que la hace compatible con la centralización, como la energía nuclear antes mencionada. Al mismo tiempo, los modelos abiertos y más pequeños que funcionan en equipos modestos y asequibles para la mayoría sugieren una tecnología más flexible (más parecida a la solar). Si ambas configuraciones siguen siendo posibles, estamos en la ventana de flexibilidad que Winner y Collingridge consideran decisiva. Las capacidades determinan qué tan urgente y difícil es el problema de gobernanza, pero la manera de resolverlo sigue abierta, y las decisiones que se tomen ahora terminarán convertidas en infraestructura que impactará por décadas.

Jeffrey Ding, en Tecnología y Auge de los Grandes Poderes, agrega una dimensión que suele quedar fuera del debate. Al estudiar las revoluciones industriales, concluye que el poder de un país depende menos de inventar una tecnología de propósito general que de su capacidad para difundirla y aprovecharla en toda la economía, y esa capacidad descansa en personas formadas, instituciones que conectan el conocimiento con su aplicación y organizaciones dispuestas a transformarse. Para un país como México, la advertencia es seria. La brecha digital todavía es considerable, y es razonable suponer que la brecha en la adopción productiva de la IA es mayor, aunque la evidencia disponible es aún parcial. Esto desplaza la discusión hacia un lugar poco atendido: la capacidad del Estado y sus instituciones. Una gobernanza efectiva requiere servidores públicos capaces de usar, evaluar y regular estos sistemas, y procesos rediseñados para aprovecharlos. Sin esa capacidad, las decisiones sobre la IA que operará sobre millones de mexicanos se tomarán en otra parte, con otras prioridades. Si hablamos de soberanía, no podemos dejar todo esto fuera de la conversación.

Winner preguntó si los artefactos tienen política, y en 1999 Bernward Joerges le respondió invirtiendo el título de su ensayo original para cuestionarlo. Conviene hacer la misma inversión con otro propósito y preguntar: ¿la política tiene IA? La pregunta admite dos lecturas. En la primera, se trata de saber si nuestras instituciones tienen la inteligencia que esta tarea exige: conocimiento técnico, rapidez, imaginación institucional y, sobre todo, capacidad para que actores con metas incompatibles acuerden un objetivo común. En la segunda, se trata de reconocer que la política ya tiene IA, porque sistemas algorítmicos median lo que leemos, la forma en que deliberamos y buena parte de las decisiones que el Estado toma sobre nosotros. Si ambas lecturas son ciertas, la IA ya está gobernando una parte de la política mientras la política apenas empieza a pensar cómo gobernarla. Por eso la pregunta sobre la IA termina por volverse una pregunta sobre nosotros.

Antes de irme, te invito a la reflexión, planteándote las siguientes preguntas: ¿qué decisiones sobre la IA se están tomando hoy en tu organización, en tu ciudad o en tu gobierno, quién las toma, a quién se consultó, y qué te corresponde hacer para que los beneficios de esta herramienta los pueda experimentar la mayoría?