El desafío democrático en tiempos de IA y fake news

En 2017, en una ponencia titulada “La era de la indignación”, el psicólogo social Jonathan Haidt planteó una hipótesis provocadora: la democracia liberal es un sistema tan improbable y frágil como la vida en el universo. Para entender por qué, Haidt propone mirar nuestra historia evolutiva: somos primates tribales, adaptados para vivir en pequeñas sociedades marcadas por religiones intensas, conflictos violentos y luchas territoriales. Esta predisposición tribal es tan profunda que continuamente buscamos recrearla, ya sea en los deportes, los clubes de fans o los tatuajes grupales. El tribalismo, sostiene Haidt, habita en nuestras mentes y corazones.

Precisamente debido a esta naturaleza tribal, vivir en democracias seculares, grandes y diversas no es algo que nos resulte natural. Haidt sostiene que necesitamos, por eso, lo que denomina una “democracia liberal bien sincronizada”: un sistema político cuidadosamente diseñado y calibrado para compensar y moderar esas tendencias tribales, permitiendo así una convivencia estable y pacífica. Para ilustrar su idea, Haidt compara las condiciones necesarias para el buen funcionamiento de esta democracia con el delicado equilibrio de las constantes físicas que hacen posible la existencia de la vida. Así como una mínima variación en la fuerza de gravedad hubiera impedido la formación de la materia, pequeños cambios en el equilibrio institucional, cultural o tecnológico pueden desestabilizar una democracia.

Haidt no exageraba. La historia demuestra que la democracia es una excepción, no la regla. El experimento democrático de Atenas duró menos de dos siglos y colapsó bajo el peso de guerras, corrupción y tensiones internas. Roma, que pasó brevemente por una forma republicana, sucumbió rápidamente al autoritarismo imperial tras una etapa de conflictos civiles. Más recientemente, la República de Weimar en Alemania, establecida tras la Primera Guerra Mundial, ilustra esta fragilidad. Aunque parecía contar con instituciones sólidas, sucumbió ante la polarización política, la crisis económica y la pérdida de confianza ciudadana, abriendo la puerta al totalitarismo nazi.

¿Por qué pensar entonces que nuestras democracias contemporáneas están exentas de estos peligros? La idea es inquietante. Pero también útil para pensar el presente. ¿Y si estamos modificando, sin darnos cuenta, las condiciones precisas que permitieron que nuestras democracias funcionaran? ¿Y si las nuevas tecnologías están alterando los fundamentos que hacían posible la vida política en común?

Haidt nos recuerda que los arquitectos de la democracia estadounidense –Jefferson, Madison, Hamilton– eran deístas. Creían en un dios relojero, un ser supremo que había diseñado el universo con reglas claras y engranajes que una vez puestas en marcha pasaban a funcionar solas. Así imaginaron la Constitución: un sistema con controles y equilibrios, finamente sincronizado y calibrado para contrarrestar las pasiones facciosas y canalizar los conflictos sin que todo estalle. Pero sabían que ese experimento requería algo más que instituciones: necesitaba hábitos cívicos, ciudadanos maduros, mecanismos de contención cultural.

Deterioro democrático

Hoy muchos coinciden en que estamos en medio de una crisis democrática global. Según Freedom House, 2024 fue el decimonoveno año consecutivo de retroceso democrático en el mundo. Casi el 75% de la población mundial vive hoy en países que sufren algún tipo de deterioro institucional. Y las causas no son solo locales: algo más profundo –y más global– está en juego. Un desajuste entre la estructura de nuestras democracias y el ecosistema tecnológico que habitamos.

Se sabe que la democracia representativa fue diseñada para un mundo de escasez informativa y que hoy, en cambio, vivimos en un régimen de abundancia caótica. Donde cada ciudadano tiene acceso a infinitas fuentes. Donde los algoritmos personalizan el contenido. Donde las redes sociales transformaron el debate público, amplificando las emociones, recompensando el extremismo. Y no está claro que nuestras instituciones ni nuestra psicología estén preparadas para eso.

Uno de los síntomas más claros es la crisis de intermediación. Los partidos políticos tradicionales, los medios de comunicación y otros espacios que organizaban la conversación pública han perdido su rol como “guardianes” de legitimidad. En el mundo la aparición de outsiders –figuras que prescinden de los canales institucionales y se apoyan en redes sociales para construir poder– es cada vez más frecuente. Antes, desafiar al sistema tenía un costo alto. Hoy, las plataformas digitales y la inteligencia artificial permiten construir una audiencia, una narrativa y una base de apoyo sin pasar por los filtros tradicionales. Eso transforma la competencia política, la hace más ruidosa, más emocional, más individualizada.

No todo es negativo. La presencia de actores nuevos también es un testimonio de apertura y democratización. Y las redes han abierto espacios de expresión y coordinación que antes no existían. Zeynep Tufekc, en su libro Twitter y gases lacrimógenos. El poder y la fragilidad de protesta en red, mostró de qué modo plataformas como Facebook jugaron un rol clave en las protestas de la Primavera Árabe. En contextos autoritarios, donde el miedo y la censura bloqueaban la protesta, las redes permitieron que los ciudadanos descubrieran que no estaban solos. Ayudaron a revelar preferencias latentes, a sincronizar emociones, a encender la chispa de la movilización. Este “efecto libertad” no es menor. En sociedades cerradas, donde el costo de hablar puede ser la persecución y el encarcelamiento, las tecnologías digitales permiten romper el aislamiento y ver que otros piensan como uno.

Pero las mismas herramientas que liberan también pueden manipular. La amenaza ya no es solo la censura, sino la sobrecarga de información falsa. La llamada “propaganda computacional” –el uso de bots, algoritmos e inteligencia artificial para moldear la opinión pública– es una práctica cada vez más sofisticada y extendida.

Ejércitos de trolls

Pero el desafío es más complejo que enfrentar o contrarrestar propaganda automatizada. Como explica Philip Howard en su libro Máquinas de mentir. Cómo salvar la democracia de los ejércitos de trolls, robots engañosos, operaciones de noticias basura y operativos políticos, lo más preocupante hoy es la creación de “persona bots”: cuentas digitales que simulan ser individuos reales, con historias personales creíbles e intereses variados, capaces de ganar confianza dentro de comunidades online antes de difundir mensajes políticos polarizantes. Esta estrategia marcó un punto de inflexión desde la creación en Rusia de la Agencia de Investigación de Internet, la primera organización profesional dedicada específicamente a producir desinformación política a gran escala, diseñada para propagarse de manera efectiva a través de plataformas sociales.

Howard describe cómo las élites políticas rusas observaron que movimientos sociales alrededor del mundo utilizaban plataformas como Facebook y Twitter para organizar protestas y movilizar ciudadanos, y decidieron aprovechar esas mismas tácticas no para impulsar cambios democráticos, sino para controlarlos. Hoy, casi la mitad de toda la conversación en Twitter dentro de Rusia está impulsada por cuentas automatizadas. Esta estrategia se ha expandido globalmente: ejércitos de trolls y bots operan actualmente en unos 70 países, incluyendo agencias que imitan a la Agencia de Investigación de Internet rusa en China, India, Irán, Pakistán, Arabia Saudita y Venezuela, muchas de las cuales lanzan campañas dirigidas específicamente a usuarios extranjeros. En las elecciones de Estados Unidos en 2016, uno de cada cinco tuits políticos fue generado por bots. En el referéndum del Brexit, fue uno de cada tres. Un informe interno de Facebook reveló, por ejemplo, que antes de las elecciones presidenciales de 2020 en Estados Unidos, las páginas más populares entre grupos cristianos o afroamericanos eran administradas desde Europa del Este. La inteligencia artificial amplifica este problema: modelos como GPT pueden generar texto indistinguible del humano, en escala masiva, en tiempo real.

No es que una IA convenza a todos; es que puede micro-dirigir mensajes específicos a públicos precisos, generando ruido, desconfianza y fragmentación. En lugar de una conversación pública, tenemos una avalancha de susurros dirigidos.

Y hay más: el diseño mismo de las plataformas favorece el extremismo. Lo que se amplifica no es lo más veraz o lo más matizado, sino lo más viral. Lo que indigna, lo que polariza, lo que genera clics. Si nuestras democracias necesitan condiciones finamente ajustadas, el panorama es preocupante. No se trata de volver atrás ni de prohibir tecnologías. Pero sí de pensar cómo rediseñar nuestros espacios digitales para que no destruyan las condiciones de la deliberación democrática.

Reglas en el mundo virtual

Una propuesta práctica surge del trabajo de Sahar Massachi, cofundador y exdirector ejecutivo del Integrity Institute, una organización dedicada a proteger el llamado “internet social”. Massachi sostiene que la ciudad digital–ese mundo virtual que habitamos en las redes sociales–necesita sus propias “reglas físicas” para evitar excesos y abusos. En una ciudad real, una persona no puede estar simultáneamente en cien lugares, hablar con mil personas por segundo o cambiar de identidad con un solo clic. Pero en el mundo digital sí podemos hacerlo: allí tenemos algo así como superpoderes. Y esos superpoderes terminan por romper los límites que permiten la convivencia saludable.

Para evitarlo, propone implementar mecanismos que limiten la viralidad automática de los contenidos y que introduzcan cierta “fricción” en las acciones más propensas al abuso. Esto podría lograrse mediante pequeños obstáculos digitales, como demoras obligatorias, costos crecientes para acciones repetitivas o sistemas de reputación que fomenten la buena conducta. Las cuentas nuevas no deberían tener acceso inmediato a todas las funciones de la plataforma—algo así como un “bar mitzvah digital”, que exija cierto grado de madurez antes de darles plena libertad. También sugiere colocar “lomas de burro” virtuales: topes de velocidad digitales que impidan publicar mensajes de manera continua o crear decenas de grupos por minuto. En suma, las plataformas deberían diseñarse no solo pensando en su usabilidad, sino también en cómo prevenir su abusabilidad.

El problema es que las redes sociales están pensadas para maximizar el tiempo de pantalla, no la calidad del debate. En esa lógica, lo que se premia es la indignación y el grito. Pero una democracia necesita algo distinto: necesita conversación, desacuerdo con respeto, tiempo para deliberar. Necesita espacios donde se pueda disentir sin que eso implique ser expulsado. Necesita, en definitiva, condiciones mínimas de confianza compartida.

Por eso, el desafío no es solo tecnológico: es político y cultural. Implica repensar y rediseñar. Pero también implica educar. Cultivar hábitos democráticos. Promover una alfabetización digital que vaya más allá del uso técnico de herramientas: que enseñe a distinguir fuentes, a debatir sin odiar, a desconfiar de lo que confirma demasiado nuestras propias ideas. La democracia, decía el filósofo John Dewey, es una forma de vida, no solo un régimen político. Y esa forma de vida necesita prácticas cotidianas que la sostengan.

Haidt tenía razón. Las democracias no son sistemas naturales: son delicadas invenciones humanas. Para que sobrevivan, no basta con invocarlas. Hay que cuidarlas, afinarlas, adaptarlas. Sobre todo, cuando el mundo cambia tan rápido.

El autor es Director de cultura y ciencia en la Fundación Bunge y Born. El texto fue publicado en el diario La Naciòn.