El totalitarismo del siglo XX necesitaba policías, censores, informantes y enormes aparatos burocráticos para vigilar a la sociedad. En la era de la inteligencia artificial, un régimen autoritario podría aspirar a algo mucho más profundo: conocer, anticipar e incluso intentar modificar el comportamiento de cada ciudadano.
Los grandes totalitarismos del siglo XX buscaron controlar prácticamente todos los ámbitos de la vida. El nazismo alemán y el estalinismo soviético recurrieron a la propaganda, la censura, la policía política, la persecución y extensas redes de informantes.
Pero tenían una limitación tecnológica decisiva: el Estado no podía observar a todas las personas todo el tiempo.
Incluso los sistemas de vigilancia más desarrollados dependían de seres humanos que escuchaban conversaciones, abrían correspondencia, confeccionaban expedientes y analizaban información.
La inteligencia artificial cambia potencialmente esa ecuación.
Del expediente personal al ciudadano convertido en datos
Hoy buena parte de nuestra actividad cotidiana deja rastros digitales: movimientos, comunicaciones, búsquedas, compras, imágenes, relaciones sociales y preferencias.
Un gobierno que concentrara grandes cantidades de esos datos y eliminara los controles democráticos podría utilizar inteligencia artificial para procesarlos a una escala imposible durante el siglo XX.
El salto cualitativo sería enorme: no solamente almacenar información sobre millones de personas, sino analizarla automáticamente.
Sistemas de reconocimiento facial, análisis de redes sociales, identificación biométrica y procesamiento masivo de información podrían permitir localizar individuos, reconstruir relaciones y detectar determinados patrones de comportamiento.
De vigilar a intentar predecir
Aquí aparece una diferencia todavía más importante.
El totalitarismo tradicional perseguía principalmente lo que una persona había hecho o dicho. Un régimen equipado con IA podría intentar calcular lo que esa persona probablemente hará.
Los algoritmos podrían asignar niveles de riesgo, detectar conductas consideradas anormales por el poder o identificar grupos que estadísticamente podrían convertirse en opositores.
Pero existe un peligro adicional: esas predicciones pueden equivocarse. Un ciudadano podría terminar bajo sospecha no por algo que hizo, sino por una conclusión probabilística producida por un sistema automatizado.
Una propaganda diferente
La propaganda del siglo XX era esencialmente masiva. Un mismo discurso llegaba mediante diarios, radio, cine, carteles y posteriormente televisión.
La IA abre la posibilidad de una propaganda individualizada.
Con suficiente información sobre una persona, los mensajes podrían adaptarse automáticamente a sus preocupaciones, preferencias, temores o intereses. Los contenidos sintéticos y los deepfakes agregan además la posibilidad de fabricar imágenes, voces y acontecimientos aparentemente reales.
El objetivo histórico de la propaganda permanece. Lo que cambia radicalmente es su precisión.
¿Por qué hablar de “totalitarismo total”?
El concepto puede servir como hipótesis para describir un escenario extremo, pero conviene distinguirlo de una categoría histórica ya establecida.
Sería un sistema en el que convergieran poder político sin controles + vigilancia digital permanente + enormes bases de datos + inteligencia artificial + manipulación personalizada de la información.
El totalitarismo del siglo XX aspiraba a saberlo todo sobre el ciudadano, pero técnicamente no podía conseguirlo.
El riesgo del siglo XXI es diferente: que la tecnología acerque al poder mucho más que antes a esa antigua aspiración.
Y allí aparece quizás la paradoja más importante. La inteligencia artificial no crea el totalitarismo. Las mismas tecnologías pueden utilizarse en sociedades democráticas para medicina, educación, seguridad o servicios públicos. La cuestión decisiva sigue siendo quién controla la tecnología, qué límites tiene el Estado, qué derechos conserva el ciudadano y quién vigila a quienes poseen los datos.
En el siglo XX, el ciudadano temía que alguien lo estuviera observando. En un hipotético “totalitarismo total”, podría no saber cuándo está siendo observado, clasificado o influido por una máquina.