“Totalitarismo total”: cómo la IA impulsa la mayor concentración de poder de la historia (y cuál fue la predicción de Putin que se está haciendo realidad)

Pedro Salazar lleva décadas estudiando la relación entre el derecho, la democracia y el poder.

Pero en los últimos años, el abogado, filósofo político y profesor de la Universidad Nacional Autónoma de México (UNAM), ha volcado su atención hacia la inteligencia artificial (IA) y su impacto en esos campos.

Autor de La democracia constitucional (2006), Crítica de la mano dura (2012) y Derecho y poder (2013), Salazar sostiene en su obra más reciente, Totalitarismo total (Taurus, 2026), que la inteligencia artificial está acelerando una concentración de poder sin precedentes en manos de unos pocos.

Asegura que, a diferencia de otras revoluciones tecnológicas, la inteligencia artificial no solo está transformando la economía y los modelos productivos, sino también la cultura y la opinión pública, e incluso tiene la capacidad de difuminar la realidad.

El abogado mexicano sostiene que este proceso está desdibujando las fronteras entre el poder económico, político e ideológico, y advierte que la convergencia de estas tres esferas plantea un gran desafío para las democracias liberales.

Asimismo, Totalitarismo total aborda la competencia tecnológica entre EE.UU. y China, los intentos regulatorios de Europa, y la creciente normalización de prácticas que, a su juicio, reflejan una preocupante deriva autoritaria.

Pedro Salazar habló con BBC Mundo en el marco del Hay Festival de Querétaro, que se celebra del 4 al 6 de septiembre.

Usted abre su libro con los ataques de EE.UU. contra embarcaciones en el Caribe ejecutados con inteligencia artificial. Dada la repetición de estos operativos, la falta de transparencia y las dudas legales, ¿son casos aislados o se están convirtiendo en una forma normalizada de ejercer el poder?

Creo que fueron apenas el anuncio de algo que ha venido intensificándose desde entonces.

El uso de la inteligencia artificial para ejercer la violencia desde el poder se está multiplicando.

Lo vimos nuevamente en Venezuela con la intervención norteamericana para la detención y extracción del presidente [Nicolás] Maduro, que se realizó utilizando herramientas de inteligencia artificial de Anthropic. Eso incluso generó tensiones entre la empresa y el gobierno de EE.UU.

No son casos aislados. En los meses posteriores también hemos visto un mayor uso de estas herramientas en conflictos bélicos, especialmente en Medio Oriente, por países como Israel y EE.UU.

¿Estamos viendo entonces una normalización de estas prácticas?

Lamentablemente, creo que estamos viendo una normalización de estas prácticas. Recientemente un dron operado completamente por inteligencia artificial mató a tres personas en Ucrania.

La decisión y la ejecución fueron realizadas por un dron con inteligencia artificial.

Aquello que antes parecía ciencia ficción, como en Terminator, hoy empieza a convertirse en una realidad que debería preocuparnos profundamente.

¿En quién recae la responsabilidad de estos ataques cuando interviene inteligencia artificial? ¿En los gobiernos, los operadores, las empresas?

En cuanto a la responsabilidad, en el contexto bélico esta recae en el Estado que utiliza estas herramientas como armas letales. Es decir, en el gobierno que las autoriza.

El problema es que se trata de una responsabilidad muy amplia en la que se diluyen los responsables concretos.

A medida que los sistemas de inteligencia artificial adquieren mayor autonomía, la línea entre desarrolladores, diseñadores, operadores y decisiones tecnológicas se vuelve cada vez más difusa. Es un problema jurídico enorme.

Aun así, cuando hablamos de posibles crímenes de guerra, la responsabilidad última corresponde a las autoridades del Estado que ordenan y ejecutan estas acciones.

¿En qué se diferencia el “totalitarismo total” del totalitarismo del siglo XX?

Yo utilicé deliberadamente el pleonasmo “totalitarismo total” porque considero que la concentración de poder hoy es mayor que la del siglo XX.

Durante ese período, en los sistemas totalitarios ya había una concentración entre poder político, poder económico y poder ideológico, e incluso había toda una estrategia de propaganda ideológica por parte de sus Estados.

Pero hoy se ha multiplicado de manera exponencial. Los Estados tienen mayor capacidad de control de espionaje, de trazabilidad sobre la vida de sus gobernados. Tienen una capacidad enorme de interferir en sus vidas privadas.

Getty

La capacidad actual de manipular las ideas de las personas mediante IA es algo que nunca habíamos imaginado en el pasado”.

Además, existe una alianza con la industria tecnológica, especialmente en los dos grandes polos de desarrollo de inteligencia artificial: China y Estados Unidos.

Eso permite, además, contar con cantidades ingentes de recursos económicos, concentrados en muy pocas manos.

Al mismo tiempo —y este es quizá el elemento más importante de mi tesis—, utilizan herramientas, en este caso de inteligencia artificial, que tienen una enorme capacidad para condicionar y orientar los patrones de comportamiento y la cultura de las sociedades.

Es decir, la capacidad actual de manipular las ideas de las personas mediante IA es algo que nunca habíamos imaginado en el pasado y, por supuesto, no tiene nada que ver con las estrategias propagandísticas de los Estados totalitarios de entonces.

En ese sentido, me parece que la lógica totalitaria —que, además, Hannah Arendt describe muy bien en sus textos— consiste en acumular, ampliar y conservar el poder, incluso a costa de las libertades y en contra de los derechos de las personas.

Usted habla de China y de Estados Unidos, y de las alianzas entre la industria tecnológica y el poder político en ambos países. ¿Hasta qué punto son comparables esas situaciones?

Pensemos en ello como dos polos. El Estado chino, uno de los dos grandes desarrolladores de inteligencia artificial, que está en franca y abierta competencia con el otro, EE.UU.

La lógica del Estado chino es la de controlar la vida de las personas, y hoy esa lógica se sostiene en la tecnología como un instrumento central. China, además, no pretende ni busca aparentar ser un Estado constitucional y democrático.

El otro polo fue, a lo largo del siglo XX —especialmente en su segunda mitad—, el modelo de Estado democrático que representó EE.UU. Un país que, con todas sus falencias e hipocresías, se presentaba y se ostentaba como un Estado en el que las libertades, los derechos y los límites al poder eran precisamente lo que lo distinguía del resto del mundo.

Fue, además, el modelo que muchos países comenzaron a seguir.

Hoy, sin embargo, ya no es eso. Aunque algunas instituciones resisten —y hay que reconocerlo, como en el caso del poder judicial—, el gobierno de EE.UU. ha adoptado un discurso y una retórica en la que los contrapesos al poder ejecutivo parecen estorbos y las libertades individuales pasan a un segundo plano.

Hoy es un país en el que puede existir una organización como ICE, que actúa como un brazo coercitivo del Estado y que, de manera sistemática, comete abusos y violaciones de derechos humanos contra las personas más vulnerables, especialmente migrantes.

La tendencia apunta a una competencia entre estos dos polos por dominar la inteligencia artificial que, lamentablemente, como advirtió Vladimir Putin, se está convirtiendo en una disputa por ver quién termina dominando el mundo.

En esta carrera parece que Europa está quedando regazada, ¿qué implica eso?

En Europa, desde hace algunos años, existe un importante esfuerzo regulatorio en materia tecnológica. Me refiero, en particular, a las iniciativas impulsadas por la Unión Europea, en las que España desempeñó un papel destacado.

Al intentar implementar la regulación, surgieron grandes dificultades prácticas y se hizo evidente que la velocidad de la innovación tecnológica superaba la capacidad de regulación con los instrumentos existentes.

Esto llevó a una revisión de la legislación. Europa ha quedado atrasada y con un marco regulatorio muy estrecho.

¿A que se debe el rezago de América Latina?

América Latina tiene una realidad distinta. En general, ningún Estado ha hecho un esfuerzo significativo de desarrollo propio en inteligencia artificial.

Quizá el caso más avanzado, o al menos con debates más interesantes, es Brasil, donde incluso existen marcos regulatorios más desarrollados, aunque también polémicos.

En el resto de los países, la discusión es más bien marginal. Argentina ha planteado que quiere aprovechar la industria tecnológica como motor de desarrollo económico, según ha señalado su presidente, pero en la práctica todavía no se observa un avance claro en esa dirección.

En México, hay una serie de iniciativas muy diversas. Hay leyes, sentencias judiciales, propuestas de actos administrativos, pero no parecen estar orientadas de forma coherente ni al desarrollo tecnológico ni a la innovación. Tampoco hay demasiada claridad sobre qué se quiere regular exactamente.

Getty

Que una mayoría controle el Parlamento o cuente con respaldo electoral no garantiza que sus decisiones sean democráticas”

Usted en su libro también habla de democracia. ¿Cree que el mundo actual en el que vivimos mediado por algoritmos es compatible con la democracia liberal o la está transformando?

En realidad, estamos viviendo una transformación de nuestra civilización que desafía profundamente la democracia tradicional, desde el punto de vista institucional.

Uno puede mantener firmes los principios que caracterizan a una democracia —la libertad, la libertad de expresión, el acceso a la información, la deliberación pública— y seguir considerándolos bienes fundamentales que deben garantizarse.

El problema es que hoy garantizarlos es mucho más difícil, entre otras cosas porque la realidad algorítmica va moldeando la conversación pública, distorsionando los discursos y los parámetros de acuerdo sobre la veracidad de los hechos.

Los algoritmos tienen además una capacidad muy poderosa para confirmar los prejuicios de las personas, con lo cual se reduce la disposición a escuchar argumentos distintos.

Y en ese sentido se inhibe la deliberación, que es una condición necesaria para una democracia liberal digna de ese nombre.

Cada vez más personas ponen en duda quién tiene realmente el peso decisivo en las alianzas alianza entre los gobiernos y las grandes empresas tecnológicas. ¿Qué piensa usted?

En el caso de China no hay duda de que es la planificación y la lógica del Estado chino —no necesariamente solo del gobierno, sino del Estado en sentido amplio— la que se impone y termina condicionando las decisiones de una industria tecnológica también muy poderosa y con muchísimos recursos, pero claramente subsumida a la lógica del poder estatal.

En el caso de EE.UU., el juego es más abierto. Ha habido momentos de tensión entre las distintas administraciones: la primera de Trump, la de Biden y ahora la segunda de Trump.

Aunque en esta segunda administración de Trump, la alianza ha sido mucho más explícita y más pública.

Es una alianza en la que ambas partes juegan a ganar lo que quieren ganar.

La industria tecnológica, en una lógica de competencia entre actores —porque también compiten entre sí—, busca capacidades para desarrollar tecnología sin demasiados límites, sin controles o sanciones por parte del gobierno.

Pero hay una tensión estructural que probablemente se haga más visible con el tiempo en la democracia estadounidense.

Porque, a diferencia de los magnates tecnológicos, los presidentes tienen un tiempo limitado en el cargo, mientras que los dueños de las grandes empresas tecnológicas pueden proyectar su poder en un horizonte mucho más largo.

Algunos analistas sostienen que también estamos perdiendo la capacidad de reconocer el autoritarismo. ¿Está de acuerdo?

Sí. Puede sonar fuerte decirlo, pero me parece que nos hemos ido acostumbrando a vivir en una lógica en la que el poder se sitúa por encima de los derechos.

Y esa cultura de aceptar que nuestros derechos pueden quedar subordinados a la voluntad del poder es profundamente autoritaria.

Lo preocupante es que muchas de esas prácticas terminan normalizándose. Desde luego, existen protestas, denuncias y medios de comunicación que las señalan.

Sin embargo, hay casos que deberían generar una reflexión más profunda.

Pienso, por ejemplo, en el papel que desempeña ICE en EE.UU. Se trata de una institución que ha sido objeto de numerosas críticas por abusos, uso excesivo de la fuerza y falta de rendición de cuentas.

Cuando una sociedad acepta que determinadas personas pueden ser privadas de libertad o sometidas a abusos sin las debidas garantías, se pone en juego la cultura democrática y nuestra capacidad para reconocer los límites que el poder nunca debería cruzar.

¿Qué riesgos ve usted en América Latina frente a este fenómeno? ¿La debilidad institucional hace a la región más vulnerable?

Creo que sí. América Latina presenta vulnerabilidades particulares debido a la fragilidad de muchas de sus instituciones democráticas.

También hemos normalizado, en demasiados casos, la existencia de regímenes claramente autoritarios.

Los casos de la Nicaragua de Daniel Ortega y de El Salvador bajo el liderazgo de Nayib Bukele son emblemáticos.

En ambos, la concentración de poder, el debilitamiento de los controles institucionales y el uso expansivo de las capacidades coercitivas del Estado han sido ampliamente documentados y, sin embargo, suelen ser tolerados o incluso respaldados por amplios sectores de la ciudadanía.

Más allá de las diferencias ideológicas entre gobiernos de izquierda o de derecha, que no es la discusión central, lo cierto es que en varios países de América Latina observamos una misma tendencia: la expansión de prácticas, narrativas y políticas cada vez más orientadas hacia la vigilancia, el control y el fortalecimiento de las capacidades policiales del Estado.

Getty

En distintas partes del mundo, y también en América Latina, observamos una creciente tolerancia hacia prácticas que concentran poder y debilitan los contrapesos institucionales”

En ese sentido, sí me parece que estamos atravesando tiempos marcados por una nueva ola de tendencias autoritarias a escala global.

En el libro usted habla del concepto de “pleonocracia”, ¿en qué momento una democracia corre el riesgo de convertirse en una pleonocracia?

El concepto pertenece al filósofo italiano Michelangelo Bovero. Él retoma la posibilidad de que las mayorías políticas también se vuelvan tiránicas.

Que una mayoría controle el Parlamento o cuente con respaldo electoral no garantiza que sus decisiones sean democráticas.

Las mayorías pueden vulnerar derechos fundamentales, y por eso los derechos humanos pueden entenderse también como límites frente al poder de las mayorías.

Esa es la razón por la que las democracias constitucionales necesitan contrapesos, límites legales e instituciones independientes capaces de contener el ejercicio del poder.

Lo que añade Bovero es que, en algunos países, los propios actores políticos han aprendido a alterar las reglas del juego para fabricar mayorías artificiales. Es decir, mayorías que no reflejan necesariamente la pluralidad de la sociedad, pero que logran apropiarse de las instituciones representativas.

Una vez instaladas en el poder, esas mayorías suelen invocar la voluntad popular para justificar decisiones que reducen derechos, debilitan controles institucionales o afectan a las minorías.

Para finalizar, la inclusión de un capítulo sobre el amor quizá puede parecer inesperada en un libro sobre poder, tecnología y autoritarismo…

Sí, y sin embargo creo que es uno de los capítulos más importantes del libro.

Estoy convencido de que las relaciones afectivas, emocionales y amorosas entre las personas han sido históricamente uno de los principales antídotos frente a la concentración del poder y frente a las lógicas totalitarias.

En ese capítulo rindo homenaje a George Orwell.

En 1984, Orwell comprendió algo fundamental: lo que resulta verdaderamente incompatible con el totalitarismo no es solo la libertad política, sino también la existencia de vínculos humanos auténticos.

El amor, entendido como solidaridad, cuidado mutuo y compromiso entre las personas, crea espacios de libertad que el poder tiene dificultades para controlar.

Lo preocupante es que muchas de las tecnologías contemporáneas están contribuyendo, de manera creciente, a sustituir esos vínculos humanos por relaciones mediadas por sistemas artificiales.

Hay personas que comienzan a establecer lazos afectivos significativos con chatbots y asistentes digitales.

A mi juicio, eso plantea un problema profundo. No porque las máquinas puedan sentir, sino precisamente porque no pueden hacerlo. La máquina no ama, no cuida y no comparte nuestra condición humana.

Sin embargo, puede generar en nosotros la sensación de cercanía, comprensión o afecto.

Al mismo tiempo, esas interacciones producen enormes cantidades de información personal que terminan alimentando modelos de negocio basados en la recopilación y monetización de datos.

De ese modo, una relación que parece emocionalmente significativa se convierte también en una fuente de valor económico para las empresas que desarrollan la tecnología.

Descarga la nueva app del BBC World Service. Elige BBC News Mundo y recibe alertas de noticias, documentales y análisis, todo en un solo lugar. Importante: la nueva aplicación no está disponible en Reino Unido ni Estados Unidos.

También puedes seguirnos en YouTube, Instagram, TikTok, X, Facebook y en nuestro canal de WhatsApp.

Y no olvides suscribirte aquí a nuestro newsletter para recibir cada viernes una selección especial de nuestro mejor contenido.

• “Es una señal de alarma”: la advertencia de la empresa hackeada por los modelos rebeldes de OpenAI
• Qué es el “Proyecto Panamá” y cómo reveló la destrucción de miles de libros antiguos para entrenar a la IA
• Lo que la exitosa salida a bolsa de la mayor empresa de robots humanoides del mundo revela sobre el liderazgo tecnológico de China