¿Quién gana poder cuando creemos que la inteligencia artificial podría acabar con nosotros?

El miedo también produce valor. Cotiza. Legisla. Distribuye autoridad. Decide a quién escuchamos cuando llega la emergencia y quién adquiere el derecho de explicarnos aquello que debemos temer. Por eso, cuando los propios constructores de las inteligencias artificiales más avanzadas anuncian que aquello que están construyendo podría convertirse en una amenaza para nuestra supervivencia, no basta con preguntar si tienen razón. Hay una segunda pregunta, incómoda y quizá más inmediata: ¿qué ocurre con el poder cuando comenzamos a creerles?

Jacob Coxon renunció a Anthropic y dejó tras de sí una frase diseñada, consciente o involuntariamente, para sobrevivir a cualquier algoritmo de recomendación: las personas que desarrollan los sistemas de inteligencia artificial más avanzados creen seriamente que éstos podrían matarnos antes de que termine la década. Evan Hubinger, investigador de alineación de la misma compañía, respondió públicamente que su estimación personal sobre una catástrofe provocada por IA durante los próximos diez años supera el 10%. La afirmación recorrió las redes, periódicos y despachos políticos con una velocidad que difícilmente alcanza cualquier artículo científico sobre alineación, interpretabilidad o gobernanza tecnológica (Coxon, 2026; Reuters, 2026a).

Pocos días después ocurrió algo todavía más significativo. Dario Amodei, CEO de Anthropic, llamó a desacelerar el crecimiento de las capacidades de los modelos de frontera y propuso evaluadores independientes con acceso profundo a los laboratorios. Sam Altman respaldó públicamente la idea. Elon Musk hizo lo mismo. Por primera vez, algunos de los actores más visibles de la carrera por ampliar las capacidades de la inteligencia artificial hablaron simultáneamente el lenguaje de la contención.

Algo cambió.

Pero quizá no exactamente aquello que estamos creyendo.

Desacelerar no significa detener. Ninguna de las grandes compañías anunció el abandono de la frontera, el cierre de sus centros de datos o el desmantelamiento de sus programas de investigación. OpenAI ya había comunicado el 18 de agosto que disminuyó temporalmente su ritmo de escalamiento después de encontrar evidencia preliminar de que Astra podía aproximarse al umbral de capacidades críticas de ciberseguridad previsto en su Preparedness Framework. La decisión buscaba reforzar monitoreo, alineación y contención. No era una renuncia al desarrollo. Era una modificación del ritmo (OpenAI, 2026).

Y ahí comienza otro problema.

No estamos únicamente frente a una discusión sobre seguridad tecnológica. Estamos frente a una disputa por definir la frontera.

El miedo también cotiza

Durante años la industria construyó una promesa: la inteligencia artificial está a punto de superar sucesivamente nuestros límites cognitivos. Cada generación será más autónoma, más competente para investigar, programar, utilizar herramientas, operar computadoras y ejecutar actividades profesionales.

Ahora aparece una narrativa aparentemente contraria: quizá aquello que hemos construido esté avanzando demasiado rápido.

Las dos producen, sin embargo, un efecto simbólico semejante.

Una dice: somos capaces de construir una inteligencia extraordinariamente poderosa.

La otra responde: es tan poderosa que incluso nosotros comenzamos a temerla.

La amenaza termina funcionando como certificación de potencia.

Esto no vuelve falsos los riesgos. Sería intelectualmente irresponsable reducir las advertencias de Coxon, Hubinger o Amodei a una simple estrategia de mercadotecnia. Los riesgos de ciberseguridad son comprobables. El uso dual existe. La automatización de vulnerabilidades, el apoyo a operaciones ofensivas y determinadas aplicaciones biológicas requieren investigación, supervisión y límites.

Anthropic, además, ha comenzado a documentar un fenómeno que merece atención mucho más allá del dramatismo de algunos titulares: la participación creciente de sistemas de IA en el propio proceso de investigación y desarrollo de IA. La compañía reporta que sus ingenieros producen actualmente mucho más código que durante los años anteriores y que agentes experimentales ya pueden proponer hipótesis, probarlas, coordinarse y ejecutar procesos prolongados de investigación. Anthropic denomina al horizonte de ese proceso recursive self-improvement, aunque reconoce explícitamente que todavía no hemos llegado a una IA capaz de diseñar autónomamente a su sucesora y que dicho desenlace tampoco es inevitable (Anthropic, 2026a).

Esa última precisión debería imprimir cierta humildad a nuestra conversación pública.

Capacidad de acción no significa voluntad.

Autonomía operacional no implica autonomía ontológica.

Recursividad no equivale a conciencia.

Comportamiento inesperado no demuestra intención.

La IA puede exhibir conductas que nosotros interpretamos como estratégicas sin poseer experiencia subjetiva, deseo de supervivencia ni una representación fenomenológica de sí misma. Confundir estas categorías transforma un sistema sociotécnico en criatura y desplaza una discusión verificable hacia el terreno de la mitología.

Nuestro repertorio cultural sabe perfectamente qué hacer a partir de ahí.

HAL 9000. Skynet. Matrix. Ex Machina. Máquinas que se rebelan. Sistemas que engañan a sus creadores. Inteligencias que encuentran una fisura y escapan.

Décadas de ficción proporcionaron la gramática visual con la que ahora interpretamos la incertidumbre tecnológica. Basta colocar un video de un robot cayendo sobre un operador junto a un titular sobre una IA que “desobedeció” para que desaparezca toda distinción entre accidente, comportamiento emergente, fallo técnico, agencia e intencionalidad.

El relato completa aquello que desconocemos.

Y el relato distribuye poder.

Ulrich Beck entendió que las sociedades contemporáneas no sólo producen bienes: producen también riesgos que después deben diagnosticar, calcular y administrar. El poder comienza entonces a desplazarse hacia quienes poseen los instrumentos para definirlos (Beck, 1992). La inteligencia artificial introduce una complicación adicional: muchos de los actores que fabrican el riesgo potencial poseen también los datos, el talento científico, la infraestructura y el conocimiento necesarios para explicarlo.

El desarrollador puede terminar ocupando simultáneamente cinco lugares: fabricante, diagnosticador, fuente experta, asesor regulatorio y proveedor de la solución.

No hace falta imaginar una conspiración para identificar ahí un problema de poder.

La frontera no es una máquina: es una definición

Los datos permiten observar esa concentración.

El AI Index 2026 de Stanford reporta que la industria produjo más del 90% de los modelos de IA considerados notables durante 2025. Añade algo todavía más inquietante: los sistemas más capaces son también algunos de los menos transparentes. Información sobre datasets, código de entrenamiento, número de parámetros y duración del entrenamiento ha dejado de hacerse pública para varios modelos de frontera (Stanford Institute for Human-Centered Artificial Intelligence, 2026).

La asimetría es extraordinaria.

Pedimos a la ciudadanía confiar en evaluaciones sobre máquinas cuyo interior conoce cada vez menos.

La OCDE acaba de advertir además que el mercado de IA presenta segmentos estructuralmente concentrados. En 2023, tres proveedores dominaban aproximadamente 74% del mercado global de nube y Nvidia concentraba alrededor de 90% del mercado de GPU. Las cinco mayores tecnológicas estadounidenses gastaron cerca de 400 mil millones de dólares en capital durante 2025 y podrían destinar unos 660 mil millones en 2026. Infraestructura, energía, centros de datos y acceso al cómputo comienzan así a convertirse en fuentes de poder económico tan importantes como los propios modelos (OECD, 2026).

Por eso importa cómo regulamos.

Una regulación fuerte puede proteger a las personas.

También puede crear costos de cumplimiento que sólo puedan absorber quienes ya dominan la infraestructura.

Ambas cosas pueden ocurrir a la vez.

Auditorías, evaluaciones independientes, sistemas de trazabilidad, equipos jurídicos, controles de acceso y documentación exhaustiva representan salvaguardas necesarias. Pero pueden convertirse también en barreras de entrada para universidades, laboratorios públicos, startups o iniciativas abiertas si se diseñan ignorando la enorme desigualdad de recursos existente.

La pregunta no debería reducirse a si debemos regular o innovar.

Hay que preguntar quién podrá seguir innovando después de regular.

Europa ofrece un laboratorio extraordinario para observar esa tensión. Desde el 2 de agosto de 2026 entraron en aplicación nuevas obligaciones de transparencia del AI Act relacionadas con sistemas generativos y contenidos sintéticos. Los proveedores deben informar en determinados casos cuando una persona interactúa con IA y añadir marcas legibles por máquinas que permitan detectar contenido generado o manipulado artificialmente. La misma Europa que incrementa las obligaciones regulatorias financia supercomputación e infraestructura porque entiende algo elemental: regular una tecnología que sólo otros pueden producir puede convertir la protección en dependencia (European Commission, 2026).

La soberanía tecnológica también se juega ahí.

Y todavía falta la geopolítica.

Una desaceleración unilateral resulta difícil porque ningún laboratorio conoce exactamente las capacidades de sus competidores y ningún Estado desea descubrir demasiado tarde que otro consiguió una ventaja estratégica.

Regresan vocablos que creíamos reservados a otros momentos del siglo XX: disuasión, verificación, secreto, controles de exportación, capacidad estratégica, infraestructura crítica.

La IA comienza a adquirir algunos rasgos de las tecnologías nucleares, espaciales y criptográficas. Sólo que esta vez gran parte de la capacidad estratégica no reside exclusivamente en los Estados. Se concentra en corporaciones privadas con presupuestos, cómputo y talento capaces de rivalizar con instituciones nacionales.

Sheila Jasanoff y Sang-Hyun Kim llaman imaginarios sociotécnicos a aquellas visiones colectivas mediante las cuales una sociedad enlaza aquello que considera posible con aquello que considera deseable (Jasanoff & Kim, 2015). La IA parece obligarnos a añadir el futuro temido a esa ecuación. También gobernamos mediante aquello que creemos que podría suceder.

Quien consiga fijar el imaginario del desastre adquirirá capacidad para influir sobre aquello que aceptamos como prevención.

Pierre Bourdieu comprendió el poder simbólico como la capacidad de intervenir sobre la construcción misma de la realidad, de hacer visibles ciertas divisiones y volver legítimas determinadas interpretaciones del mundo (Bourdieu, 1991). Desde esa perspectiva, definir qué cuenta como “inteligencia peligrosa”, qué constituye “autonomía”, cuándo aparece una “capacidad crítica” y quién está autorizado para medirla no son operaciones puramente técnicas.

Son actos políticos.

Durante años hemos pedido una ética de la inteligencia artificial. Necesitamos ahora una ética de aquello que decimos sobre la inteligencia artificial.

Esa ética obliga a distinguir escenarios plausibles de probabilidades subjetivas; capacidad de agencia operacional de intencionalidad; modelos capaces de ejecutar acciones de entidades conscientes; riesgo demostrado de especulación razonable.

Nos exige preguntar por los intereses económicos que acompañan las advertencias corporativas sin convertir esa sospecha en una negación automática del peligro.

Nos obliga también a recordar que las probabilidades sobre catástrofes existenciales formuladas por investigadores son juicios de expertos, no mediciones del futuro.

Y exige algo todavía más complejo: mantener simultáneamente dos ideas que nuestra cultura polarizada quisiera separar.

La inteligencia artificial puede producir riesgos reales.

Y las narrativas sobre esos riesgos pueden producir poder.

Una afirmación no cancela a la otra.

Quizá la pregunta decisiva de esta etapa no sea si una inteligencia artificial exterminará a la humanidad antes de 2030. Nadie puede saberlo seriamente hoy.

Hay otra pregunta frente a nosotros, menos espectacular y mucho más urgente.

¿Quién gana poder cuando creemos que podría hacerlo?

Ganan quienes logran presentarse como guardianes indispensables de una tecnología cuya peligrosidad ellos mismos están en posición privilegiada de evaluar. Ganan quienes transforman incertidumbre en autoridad epistémica. Ganan quienes consiguen que Estados, mercados, universidades y ciudadanos organicen sus decisiones alrededor de escenarios cuya interpretación depende de información concentrada en unos cuantos laboratorios.

Pero perderíamos todos si reaccionamos ante esa posibilidad negando los riesgos sólo porque también existen intereses.

La respuesta no puede ser el pánico.

Tampoco la ingenuidad.

Necesitamos ciencia independiente, infraestructura pública de evaluación, auditorías verdaderamente externas, universidades capaces de investigar la frontera, periodismo tecnológicamente alfabetizado y una ciudadanía que no entregue a nadie, ni al Estado ni a las corporaciones ni a las propias máquinas, el monopolio sobre la interpretación del futuro.

Porque quizá la primera autonomía que debemos proteger frente a la inteligencia artificial no sea la autonomía de las máquinas.

Es la nuestra.

La capacidad de conservar la distancia crítica cuando alguien nos dice que el fin está cerca; de mirar detrás del relato antes de entregarle nuestra confianza; de preguntar quién define el peligro, quién lo mide, quién lo regula y quién construirá el mundo después de que aceptemos su definición.

El futuro no comienza cuando una máquina adquiere poder.

Comienza cuando nosotros dejamos de interrogarnos por quién se lo estamos entregando.

Referencias

Anthropic. (2026a). When AI builds itself: Our progress toward recursive self-improvement, and its implications. Anthropic.

Beck, U. (1992). Risk society: Towards a new modernity. Sage.

Bourdieu, P. (1991). Language and symbolic power. Harvard University Press.

European Commission. (2026). Guidelines on transparency obligations for providers and deployers of AI systems. European Commission.

Jasanoff, S., & Kim, S.-H. (Eds.). (2015). Dreamscapes of modernity: Sociotechnical imaginaries and the fabrication of power. University of Chicago Press.

OECD. (2026). Artificial intelligence markets: Recent developments and competition issues. OECD Publishing. https://doi.org/10.1787/d531d73f-en

OpenAI. (2026, August 18). Pacing model development in an era of cyber-critical capabilities. OpenAI.

Reuters. (2026a, September 15). Ex-Google DeepMind researcher adds to warnings that AI could “kill all humans”. Reuters.

Reuters. (2026b, September 12). Anthropic CEO urges AI companies to slow model development amid fears over misuse. Reuters.

Stanford Institute for Human-Centered Artificial Intelligence. (2026). The 2026 AI Index Report. Stanford University.