Democracia versus Inteligencia Artificial: ¿Quién debería tomar las decisiones?, por Daniel Encinas

“El mundo ha cambiado, lo siento en el agua, lo siento en la tierra, lo huelo en el aire. Mucho de lo que fue se ha perdido, porque ya no vive nadie que lo recuerde.”

• El Señor de los Anillos (2001)

En los dos años desde que ChatGPT y otros modelos de Inteligencia Artificial (IA) salieron al mercado, hemos experimentado una transformación silenciosa pero profunda que ha alterado la manera en que trabajamos, aprendemos e interactuamos con otros, influyendo fuertemente en nuestra vida cotidiana.

Muchos profesionales recurren a esta tecnología para escribir correos electrónicos e informes de trabajo. En el campo de la ciencia de datos, donde trabajo, muchos confían en la IA para desarrollar sus códigos y realizar análisis estadísticos sofisticados. En la educación, los estudiantes dependen crecientemente de estos algoritmos para realizar trabajos finales y exámenes. Como consecuencia, los profesores ya no estamos tan preocupados por el plagio, sino que debemos determinar si los textos que leemos fueron elaborados por un alumno o una máquina.

Pero el impacto de la IA no se limita a lo profesional y académico. En tiempos en los que las redes sociales son tan importantes, los hilos de Twitter (o X) pueden ser editados rápidamente con ayuda de la IA. Mientras tanto, elegir las mejores fotos para Instagramnunca fue tan fácil. En lugar de depender del ojo humano, podemos subir nuestras tomas a ChatGPT y preguntarle cuáles son las mejores, cómo editarlas y qué descripción incluir para transmitir las “vibras” que deseamos.

Algunos han llevado esta relación con la IA un paso más allá. Para asistir a eventos o fiestas, su chatbot favorito puede generar imágenes con ideas de atuendos y brindar una retroalimentación sobre el uso de accesorios. Otros la utilizan para optimizar la rutina en el gimnasio, mejorar el cuidado de la piel o monitorear hábitos alimenticios. Hace unos días, un amigo cercano me confesó que ahora se siente menos ansioso al conversar con sus match de Tinder porque cuenta con una suerte de asesoría personalizada para saber cómo responderles. Otra persona me dijo que descargó todas las conversaciones con su “casi algo” – esa situación ambigua entre la amistad y el romance que abunda en las nuevas generaciones –y le pidió a ChatGPT que analice patrones tóxicos en la dinámica, encontrando que (supuestamente) ella tenía más “red flags” (en español, banderas rojas) que su interlocutor.  

En otras palabras, la toma de decisiones personales, sobre todo entre los más jóvenes, ha comenzado a depender cada vez más de la IA. Pero este nuevo rol de la tecnología en nuestras vidas plantea preguntas inquietantes que trascienden lo individual.

Si la IA ya se ha convertido en una suerte de oráculo del siglo XXI para tantas decisiones cotidianas, ¿qué nos hace pensar que no impactará en nuestras decisiones colectivas? Si estamos cada vez más dispuestos a delegar nuestra autonomía a los algoritmos, ¿qué sucederá con las democracias, que dependen de la deliberación en torno a intereses y preferencias contrapuestos, y una voluntad popular que decida nuestro rumbo como comunidad? ¿Seguiremos valorando el debate y la diferencia o sucumbiremos a la tentación de dejar que máquinas, supuestamente objetivas, tomen decisiones basadas en datos fríos y aparentemente inobjetables?

Estas preguntas me parecen más urgentes que las visiones excesivamente optimistas o apocalípticas sobre la IA. Por un lado, algunos, como el co-fundador de Mosaic, Marc Andreessen, plantean que la IA es “la mejor de todas las cosas que ha creado nuestra civilización”. En el bando contrario, pensadores como el historiador Yuval Noah Harari advierten que la IA nos llevará a la extinción como especie. Sin embargo, estas posiciones tienen algo en común: ambas nos ubican temporalmente en un futuro lejano y pierden de vista cómo ChatGPT y su competencia en la industria actualizan preguntas preexistentes sobre la relación entre democracia y conocimiento especializado.

Esta tensión no es nueva. Siempre ha existido. Desde la propuesta de los reyes-filósofos de Platón, quienes deberían gobernar por su superioridad intelectual, hasta las críticas del académico Robert Dahl al tutelaje. Esta postura asume que las personas son incapaces de defender sus intereses y necesitan de guardianes que tomen decisiones por ellas.

El politólogo peruano Eduardo Dargent también ha abordado, de alguna manera, esta tensión en sus trabajos sobre las democracias frágiles de América Latina. Sin tildar a los tecnócratas modernos de antidemocráticos o negar que son necesarios para resolver los problemas complejos del mundo contemporáneo, Dargent resalta que una autonomía excesiva de estos actores imprescindibles puede contraponerse a los ideales de deliberación, participación democrática y control ciudadano. Dicho de otro modo, la política reducida al expertise y la pretensión de objetividad podría abrirle el paso a formas de autoritarismo.

En un mundo donde las máquinas prometen diversas soluciones a nuestras vidas, equilibrar el conocimiento objetivo y la democracia se vuelve más apremiante que nunca. El filósofo norteamericano Michael Sandel ha dado en el clavo. El verdadero problema no es que la IA haga imposible distinguir entre las creaciones humanas y las artificiales. Es evidente que advertir las mentiras en un mundo donde audios, fotos y videos falsos ultra realistas (deep fakes) será infinitamente más difícil. Lo que resulta más perturbador es que esta distinción podría dejar de interesarnos si nos resulta útil.

No estoy exagerando. Pensemos en algunos ejemplos. En los últimos años han sido un éxito diversas canciones creadas con IA que imitan perfectamente las voces de artistas urbanos populares. Hacer Tiktoks usando “Mi primera chamba” con la voz de Eladio Carrión se hizo viral. Además, en los próximos días veremos que millones de usuarios de Spotify compartiremos con entusiasmo nuestro Wrapped, una tradición anual que recapitula todo lo que escuchamos en la plataforma. No es que la IA esté particularmente involucrada, pero sirve de recordatorio de que cosas tan peligrosas como el monitoreo de nuestros datos pueden ser celebradas cuando nos resulta entretenido o útil.

No es difícil imaginar que, ante la podredumbre que abunda en la política de países como Perú, seamos seducidos a delegar nuestras decisiones colectivas a la IA. Ya ha sucedido en el pasado con las soluciones tecnocráticas. Reflexionemos: ¿acaso sería tan difícil convencer a nuestra ciudadanía de que la inteligencia de las máquinas es superior a la estupidez autoritaria en la que vivimos? No lo creo.

El punto crucial es que nada de esto es una promesa democrática. Si algo debemos aprender del auge de la IA es que necesitamos valorar más la condición humana repleta de subjetividad, sesgos y errores. En medio del desmantelamiento institucional que vive nuestro país, estoy convencido que no necesitamos menos sino más capacidad técnica y conocimiento especializado al servicio de nuestros problemas. Pero también de una política más humana que reconozca la relevancia de las diferencias y el conflicto para encontrar remedios a nuestras caídas que no sean peores que la enfermedad.