De ciudadanos a datos: un riesgo de nuestro tiempo

Frente a ciertos anuncios del gobierno nacional sobre la construcción de un futuro donde solo prevalezca la tecnología más avanzada sin ningún tipo de restricciones, emerge en esa idea -de concretarse- una redefinición de la arquitectura institucional de la argentina y una interpelación del aspecto moral del ser humano. Tres son las iniciativas que abren un debate tan novedoso como esperables en tiempos de predominio de la inteligencia artificial, donde la discusión ya no gira solo en torno a lo que la tecnología puede hacer, sino también sobre lo que la sociedad esta dispuesta a delegarle. 

El programa “Gemelo Digital” del ministerio de Capital Humano, es una de las ideas anunciadas que busca generar un avatar de cada persona construida con datos reales, ahora la pregunta de rigor, en especial desde el plano de la utilización de los datos personales, ¿Quién los va a gestionar? ¿Cómo se va a utilizar? ¿Quién tendrá el control sobre esa base de datos que podría afectar entre otros el derecho a la intimidad? La segunda propuesta es la denominada “Super Rigi” que busca impulsar a partir de incentivos impositivos, tecnologías y actividades desde IA y biotecnología, y la tercera es la creación de “Sociedades Automatizadas” que funcionan con algoritmos o robots, sin necesidad de contar con personas humanas. La iniciativa crea una novedosa categoría de empresas no humanas, presentada como una innovación institucional de alcance global. Su propósito declarado es otorgar seguridad jurídica a inversiones que hasta ahora se desenvolvían en zonas de ambigüedad normativa y, al mismo tiempo, diseñar un régimen tributario específico para estas nuevas entidades económicas.

Sin embargo, la pregunta de fondo permanece abierta: si las empresas ya no son humanas, ¿quién responderá por sus errores? Si generan riqueza, ¿quién será su verdadero beneficiario? Si adquieren derechos, ¿asumirán también obligaciones? Y si algún día participan de la vida económica con más autonomía que muchos ciudadanos, ¿estaremos ampliando las fronteras de la innovación o inaugurando una nueva forma de poder sin rostro ni responsabilidad?

Después de todo, en una época en la que las personas parecen cada vez más tratadas como datos, resulta inevitable preguntarse si el próximo paso será reconocer personalidad jurídica plena a las máquinas antes que garantizar plenamente la dignidad de los seres humanos. ¿Es este el triunfo de la inteligencia o apenas una nueva sofisticación de nuestras viejas ficciones legales?

Hay una idea que atraviesa buena parte del pensamiento contemporáneo y que merece ser recordada frente al entusiasmo tecnológico de nuestra época: los grandes problemas humanos no son problemas de información, sino problemas de sentido. La inteligencia artificial puede procesar cantidades inconmensurables de datos, detectar patrones invisibles para el ojo humano y optimizar procesos con una eficacia admirable; pero sigue siendo incapaz de responder las preguntas fundamentales que sostienen la vida política: ¿qué es una sociedad justa?, ¿qué debemos unos a otros?, ¿qué significa vivir bien?, ¿qué sacrificios son moralmente aceptables en nombre del progreso?

El filósofo surcoreano Byung-Chul Han ha advertido que la sociedad digital tiende a reemplazar la reflexión por la acumulación de información. “Los datos no narran”, sostiene. Y una democracia necesita precisamente narraciones compartidas, memoria histórica, símbolos comunes y proyectos colectivos. Ningún algoritmo puede producir por sí mismo el tejido moral que mantiene unida a una comunidad política.

Existe además una confusión frecuente entre conocimiento y sabiduría. La inteligencia artificial puede aumentar exponencialmente el primero, pero no necesariamente la segunda. Ya lo señalaba Jürgen Habermas cuando defendía la importancia de la acción comunicativa: la legitimidad democrática no surge de la exactitud de una respuesta técnica, sino del diálogo entre ciudadanos libres e iguales. Una decisión política es legítima no porque sea la más eficiente, sino porque quienes deberán vivir bajo sus consecuencias han tenido la posibilidad de participar en su construcción.

Desde esta perspectiva, resulta preocupante cualquier concepción del Estado que tienda a imaginar la política como un problema de ingeniería administrativa. Porque la política no es una ciencia exacta. Está hecha de conflictos de valores, de intereses contrapuestos, de tradiciones culturales y de aspiraciones humanas que no pueden reducirse a variables cuantificables. La ilusión tecnocrática consiste precisamente en creer que aquello que puede medirse es lo único que importa.

El filósofo canadiense Charles Taylor ha insistido en que los seres humanos somos “animales que se interpretan a sí mismos”. Nuestra identidad surge de marcos morales, de relatos históricos y de horizontes de significado. Una sociedad gobernada exclusivamente bajo la lógica de la optimización corre el riesgo de olvidar esta dimensión constitutiva de la experiencia humana. Puede producir ciudadanos más administrados, pero no necesariamente ciudadanos más libres.

Una democracia saludable requiere imaginación moral, capacidad de ponerse en el lugar del otro, sensibilidad para comprender el sufrimiento ajeno y disposición para examinar críticamente las propias convicciones. Son virtudes que no se derivan automáticamente del progreso tecnológico y que, en algunos casos, pueden incluso verse erosionadas por una cultura obsesionada con la velocidad, la eficiencia y el rendimiento.

La cuestión central, entonces, no es si la inteligencia artificial puede ayudar a gobernar. Desde luego que puede.  Sería absurdo renunciar a herramientas capaces de mejorar la gestión pública, transparentar procedimientos o ampliar capacidades analíticas. La verdadera cuestión es otra: ¿quién gobierna a quién? ¿La tecnología permanece subordinada a fines humanos deliberados democráticamente o son los fines humanos los que terminan subordinándose a la lógica de la tecnología?

Diversos pensadores contemporáneos, sostienen que la gran enfermedad de la modernidad es la aceleración permanente. Todo debe ser más rápido, más eficiente, más productivo.

Sin embargo, la democracia pertenece a una temporalidad distinta. Deliberar exige tiempo. Escuchar exige tiempo. Construir consensos exige tiempo. La política democrática es, por definición, más lenta que un algoritmo porque persigue algo diferente: no simplemente producir resultados, sino construir legitimidad.

En última instancia, detrás del debate sobre la inteligencia artificial aparece una cuestión antropológica mucho más profunda. ¿Qué idea tenemos del ser humano? Si creemos que las personas son simplemente unidades racionales que procesan información, entonces parecerá lógico delegar crecientes parcelas de decisión en sistemas cada vez más sofisticados. Pero si entendemos, que la condición humana está atravesada por la memoria, la fragilidad, la interpretación, el conflicto moral y la búsqueda de reconocimiento, entonces comprenderemos que ninguna arquitectura algorítmica puede sustituir el espacio político donde esas dimensiones encuentran expresión.

Quizá el desafío de nuestro tiempo no sea construir una democracia artificialmente inteligente, sino una democracia humanamente sabia. Una democracia capaz de utilizar la tecnología sin idolatrarla; de aprovechar la innovación sin convertirla en una nueva teología secular; de recordar que los algoritmos pueden calcular probabilidades, pero no pueden otorgar significado; pueden administrar recursos, pero no definir el bien común; pueden asistir a la política, pero jamás reemplazar aquello que constituye su esencia: la deliberación libre de seres humanos conscientes de su dignidad y de su responsabilidad histórica.

Como escribió Hannah Arendt, la política nace allí donde los seres humanos aparecen unos ante otros mediante la palabra y la acción. En ese espacio compartido de deliberación, conflicto, responsabilidad y creación de sentido se despliega la libertad, no como una facultad abstracta, sino como una experiencia concreta de la vida en común. La inteligencia artificial podrá ampliar nuestras capacidades, procesar información a una escala inimaginable y asistirnos en innumerables tareas, pero difícilmente pueda habitar ese ámbito propiamente humano donde se toman decisiones, se asumen riesgos y se construye un destino colectivo. Mientras la política siga siendo el encuentro entre personas libres e iguales, ninguna máquina, por sofisticada que sea, podrá sustituir a la ciudadanía ni reemplazar el misterio irreductible de la libertad humana.

Por Sergio Bruni