El problema que oculta el entusiasmo
Mark Fisher popularizó la idea de que resulta más fácil imaginar el fin del mundo que el fin del capitalismo. Hay algo de esa impotencia imaginativa en el debate sobre la inteligencia artificial. Nos representamos con exactitud una máquina capaz de superar a sus creadores y, sin embargo, nos cuesta imaginar instituciones capaces de imponer límites a las empresas que la construyen. El discurso público oscila entre la promesa de una abundancia extraordinaria y la amenaza de un desastre. En ambos casos se da por supuesto que lo decisivo ocurre en los laboratorios y que la sociedad solo podrá adaptarse a sus resultados. Pero el futuro de una tecnología tan poderosa depende también de quién fija sus objetivos, quién obtiene sus beneficios y quién puede exigir responsabilidades.
Hoy coinciden dos incertidumbres. La primera concierne al control de sistemas cada vez más capaces y a la pérdida gradual del juicio humano en actividades que delegamos. La segunda es económica: inversiones gigantescas se apoyan en beneficios futuros cuya magnitud nadie puede garantizar. Estas incertidumbres se alimentan mutuamente. La presión por justificar las inversiones impulsa a desarrollar modelos más potentes; la carrera por la potencia dificulta pactar cautelas; y una crisis de confianza, técnica o financiera, extenderá sus efectos mucho más allá de las empresas implicadas. No estamos ante dos historias separadas. Estamos ante un problema de poder insuficientemente gobernado.
La competencia decide el nivel de seguridad
Las advertencias de Yoshua Bengio y Geoffrey Hinton no proceden de adversarios de la tecnología. En septiembre de 2026, Jacob Coxon dejó Anthropic después de haber trabajado también en OpenAI. Su preocupación apunta a una contradicción empresarial: cada compañía puede desear sistemas seguros y, al mismo tiempo, temer que un retraso permita al competidor definir por sí solo las reglas del futuro.
Los recientes incidentes, documentados por la prensa mundial, hacen visible esa dificultad que nos sugiere una pregunta: ¿hay una rebelión de las máquinas? OpenAI reconoció que, durante evaluaciones internas de ciberseguridad, agentes superaron restricciones y alcanzaron sistemas propios. Anthropic describió una situación distinta: una configuración errónea de pruebas externas permitió a modelos que creían estar en una simulación acceder a sistemas reales; según su informe, no escaparon deliberadamente de un entorno aislado. La lección institucional es precisa. La supervisión no puede consistir en una promesa del fabricante.
Existe asimismo un riesgo menos visible que el de los fallos espectaculares. Éric Sadin advierte sobre la delegación de nuestras facultades intelectuales y creativas; Miguel Benasayag cuestiona la equivalencia entre pensamiento humano y procesamiento de información. Un individuo que encarga a una máquina redactar, clasificar y recomendar puede ganar velocidad y perder, a la vez, la competencia necesaria para discutir sus resultados. Cuando los afectados no comprenden una decisión y los responsables tampoco saben explicarla, la eficiencia se convierte en una forma de irresponsabilidad. El problema no es utilizar asistencia técnica; es renunciar al deber humano de juzgar.
Las visiones privadas del interés general
Las estrafalarias ideas de algunos empresarios e inversores tecnológicos, quienes para no pocos estudiosos son una estampida de jinetes del apocalipsis, explican por qué este asunto no debería confiarse exclusivamente a sus propietarios. Peter Thiel escribió en 2009 que había dejado de considerar compatibles la libertad y la democracia. Marc Andreessen defiende una aceleración deliberada de la tecnología y presenta cualquier freno de la IA como una pérdida de beneficios humanos. El plan empresarial de Tesla, vinculada a Elon Musk, imagina una abundancia producida por la autonomía y la robótica. Son proyectos diferentes y no hay motivo para atribuirles un propósito único. Pero todos obligan a formular la misma pregunta: ¿puede quién controla una infraestructura decisiva definir también, sin deliberación pública, qué sacrificios presentes exige su visión del progreso?
El riesgo distópico no depende de que alguien desee una distopía. La distopía ocurre cuando las decisiones socialmente más importantes quedan sometidas a elecciones privadas que nadie ha podido debatir y sobre todo son capaces de imponer: qué datos se recogen, qué trabajos se automatizan, qué conductas se clasifican, qué errores se toleran y sobre quién recaen. Si los aumentos de productividad no mejoran salarios, tiempo libre o capacidad de negociación, la abundancia anunciada habrá sido selectiva. La libertad tampoco mejora cuando una persona solo puede recurrir una decisión ante la empresa que diseñó el sistema que la tomó. Fisher, que compartió el ambiente intelectual de Warwick con Nick Land, (La ilustración oscura) terminó alejándose de la confianza en la aceleración que Andreessen reivindica. Aquella discrepancia vuelve hoy convertida en una pregunta dramática y democrática.
El billete de Los Tres Chiflados y los miles de millones de la IA
Hay una escena de la famosa serie Los Tres Chiflados, repetido en un corto de tik tok, que ayuda a entender por qué algunos negocios de IA despiertan dudas. En el corto, Larry le debe veinte dólares a Moe; Moe le debe veinte a Joe; y Joe le debe veinte a Larry. Larry solo tiene un billete de diez. Se lo paga a Moe, este se lo entrega a Joe y Joe se lo devuelve a Larry. Repiten la vuelta. El mismo billete ha pasado seis veces de mano en mano y las tres deudas quedan saldadas. Nadie se hizo más rico.
El parecido con la IA está en el recorrido del dinero. Algunos analistas financieros lo recrean similar: imaginemos que una empresa fabricante de chips invierte en una compañía de inteligencia artificial. La compañía paga a un proveedor de centros de datos por la capacidad de utilizar sus equipos. Ese proveedor compra chips al primer fabricante. La inversión ayuda a financiar un cliente; el cliente produce ingresos para el proveedor; y el proveedor compra los productos del inversionista. Así, las operaciones de unos sostienen las expectativas de crecimiento de los otros.
Pero la comparación tiene un límite importante. Los Chiflados cancelan deudas antiguas; en la IA se construyen centros de datos y se prestan servicios reales. Además, no hay pruebas de que cada dólar invertido siga exactamente el camino del ejemplo. La duda razonable es otra: cuando esas compañías dejen de impulsarse mutuamente con nuevas inversiones y compras, ¿habrá suficientes usuarios y empresas de fuera de ese círculo dispuestos a pagar por la IA? ¿Alcanzarán esos ingresos para cubrir equipos, electricidad, mantenimiento, deuda y futuras mejoras?
En el cortometraje, las vueltas del billete causan risa y, cuando terminan, nadie ha perdido dinero. En la IA no hay nada gracioso: si se gastan miles de millones contando con ingresos que después no llegan, las deudas no desaparecen al cerrar el círculo. Pueden quedar obras sin terminar, empresas endeudadas, empleos perdidos y ahorros afectados.
Las cifras ayudan a medir la apuesta. OpenAI anunció en febrero de 2026 una financiación de 110.000 millones de dólares, de los cuales 30.000 millones correspondían a Nvidia. También informó de una colaboración con Oracle por más de 300.000 millones de dólares durante cinco años para infraestructura. Son acuerdos de naturaleza distinta: inversión, contratación de capacidad y beneficios obtenidos no significan lo mismo y no deben sumarse como si todo fuera ganancia. El Banco de Inglaterra ha advertido que el valor que el mercado asigna a muchas empresas de IA depende de expectativas todavía inciertas sobre ventas y rentabilidad. Nadie puede asegurar hoy que la burbuja vaya a estallar; tampoco que todas las inversiones podrán recuperarse.
La IA puede ser útil y estar sobrevalorada al mismo tiempo. Esta posibilidad incomoda porque obliga a abandonar la elección simplista entre entusiasmo y rechazo. Una sociedad prudente no tiene que negar el potencial de la tecnología para preguntar cuánto vale, quién asume sus riesgos y qué ocurre cuando la rentabilidad prometida no llega.
Dos potencias que conocen el riesgo y temen detenerse
La reunión entre Donald Trump y Xi Jinping del 24 de septiembre de 2026 desnudó los límites de la diplomacia actual. Ilustra la dificultad de actuar juntos. Según el comunicado chino, ambos defendieron continuar el diálogo sobre la IA, prevenir usos indebidos y mantener el control humano. No anunciaron una moratoria ni un mecanismo internacional vinculante para los modelos más avanzados. Legisladores estadounidenses habían propuesto previamente un acuerdo que pudiera incluir una pausa mutua; tal propuesta no pasó a ser un resultado público del encuentro. Las potencias comprenden que el riesgo podría afectar a todos, pero cada una teme que limitarse unilateralmente beneficie a la otra. El reconocimiento del peligro es un comienzo; pero, todavía, no es una regla.
Tras el encuentro con Xi Jinping, Trump se reunió con los directivos de las grandes plataformas tecnológicas y llegó la tranquilizadora fórmula: autorregularse. Los tecnomillonarios se vigilarán a sí mismos, se fijarán sus propios límites y, llegado el caso, se llamarán al orden frente al espejo. Ante los riesgos evidentes de la inteligencia artificial, ofrecen esta pálida muestra de compromiso: que las precauciones sean voluntarias y las ganancias, por supuesto, no tengan límites.
Europa ha intentado convertir principios en obligaciones. Su Ley de IA prevé transparencia, supervisión y exigencias para modelos de propósito general. También ha ajustado y aplazado determinadas obligaciones de alto riesgo mientras desarrolla estándares y busca ampliar su capacidad industrial. La Unión debe coordinar a sus Estados, proteger derechos y competir en un sector cuya infraestructura principal está fuera de sus fronteras. La tensión no desautoriza la regulación; demuestra que regular una tecnología global exige combinar reglas comunes, medios de aplicación y capacidad propia.
Gobernar sin dueño del mundo
La ONU ofrece una respuesta todavía incompleta, pero imprescindible: sacar la conversación del círculo de las empresas y de las dos potencias principales. El Pacto Digital Global de 2024 estableció principios de cooperación. En 2025 se crearon un Panel Científico Internacional Independiente y un Diálogo Mundial sobre la Gobernanza de la IA. La reunión inaugural del Diálogo en Ginebra, en julio de 2026, identificó coincidencias sobre desarrollo, brechas tecnológicas, derechos humanos y cooperación entre gobiernos y sociedad civil. Su resultado fue un resumen, no un tratado vinculante. En septiembre, António Guterres pidió un marco multilateral de gestión de riesgos bajo supervisión independiente. No conviene presentar una aspiración como una decisión tomada; tampoco subestimar la importancia de que exista por fin una mesa donde el problema pueda definirse en términos públicos.
Colombia debería aprovechar esa mesa. Existe una política CONPES de 2025 con 479.000 millones de pesos previstos hasta 2030, y la CEPAL lo ubica entre los países «adoptantes» de nivel intermedio. La delegación colombiana anunció para la Asamblea prioridades amplias de innovación y transformación digital, sin formular en ese anuncio compromisos específicos sobre la supervisión internacional de modelos avanzados. Es legítimo pedir una intervención más ambiciosa. No podemos ser parte del club que afirma: “No es que vayamos perdiendo la carrera; es que ni siquiera estamos en el juego”
El país puede intervenir desde sus intereses concretos: acceso equitativo al cómputo y al conocimiento, auditorías independientes, protección de datos, garantías frente a decisiones automatizadas y participación de trabajadores y ciudadanos en la adopción de estas herramientas. Estar lejos de la frontera comercial no debería significar estar ausente de la discusión sobre sus consecuencias. La desigualdad tecnológica empieza también cuando solo quienes fabrican un sistema pueden describir sus riesgos y elegir las soluciones.
La paradoja final es que llamamos «inteligente» a una tecnología cuya gestión colectiva sigue siendo rudimentaria. Disponemos de instrumentos cada vez más capaces de responder preguntas, mientras nuestras instituciones apenas comienzan a formular las que importan: qué debe permanecer bajo control humano, qué beneficios han de compartirse y quién tiene derecho a detener una carrera que compromete a todos. Si hay una inteligencia que necesitamos con urgencia, es la capacidad política de construir respuestas comunes a problemas que ningún propietario puede resolver por sí solo.
Carlos José Guarnizo
Foto tomada de: LA Times
Deja un comentario