Fredi Vivas: "La Inteligencia artificial no es una amenaza, pero si no la usamos bien, puede convertirse en una"

En el remoto año 2018, el ingeniero en sistemas informáticos Fredi Vivas y dos amigos fundaron en Argentina RockingData, una startup que resolvería los problemas de las empresas analizando datos con la ayuda de herramientas como el machine learning, el big data y la inteligencia artificial. Al comienzo, pocos entendían lo que hacían, pero hoy, este argentino de 42 años –que tiene un posgrado en la Singularity University de Silicon Valley– es un referente en América Latina del mundo tecnológico y es un divulgador del gigantesco avance de la inteligencia artificial. Nos comunicamos por correo electrónico con Fredi, autor de ¿Cómo piensan las máquinas? (Galerna, 2021), para que nos explique el nuevo mundo que nos está abriendo la IA y si debemos temerle o no.

¿Perderé mi trabajo?, ¿el ChatGTP será capaz de escribir artículos y ya no se necesitarán periodistas?

Es difícil predecir el futuro, pero en este momento no parece que los periodistas vayan a perder sus trabajos por completo debido a la automatización de la escritura. Si bien es cierto que la tecnología ha avanzado mucho en la generación de contenido automatizado, todavía hay muchas tareas que los periodistas realizan que no pueden ser reemplazadas por máquinas. Por ejemplo, la investigación, la entrevista y el análisis de información requieren habilidades humanas como la empatía, la creatividad y el pensamiento crítico, que no son fáciles de imitar para las máquinas... Voy a ser honesto: el párrafo que acabas de leer lo escribió ChatGPT. Pero personalmente coincido mucho con esa mirada. Los periodistas muy buenos de ninguna manera perderán el trabajo, sino que podrán ayudarse de la IA para hacer esas cosas que les resultan tediosas y les quitan tiempo de lo que realmente significa el periodismo. Una profesión que admiro y respeto muchísimo, ya que la estudié durante cuatro años.

¿Es cierto que la inteligencia artificial acabará con algunos oficios?

La IA no reemplazará a los humanos, y tampoco a los oficios. Lo que sí está haciendo es tomar ciertas tareas. De hecho, la propia palabra robot viene del checo robota, que se traduce como servidumbre o trabajo forzado. Digamos que, bajo esta lógica, se supone que el trabajo que hace un robot es el que nadie quiere hacer. Con esto no quiero decir que no deberíamos preocuparnos. El trabajo del futuro va a requerir que nos capacitemos para entender estas grandes disrupciones tecnológicas, y cómo afectan nuestro trabajo.

PUEDES VER: Sharon Lerner: "La inteligencia artificial jamás va a desplazar a los artistas"

Empecemos por el principio. ¿Qué es la inteligencia artificial?, ¿es un robot?

Sí y no. Técnicamente, la inteligencia artificial es un subcampo de las ciencias de la computación que simula la inteligencia humana para traer soluciones a distintos problemas. Lo hace realizando funciones que creíamos que eran patrimonio exclusivo de los seres vivos como calcular, ver, encontrar cosas en imágenes o videos o, incluso, desarrollar un contenido original a partir de datos o información previa. Esta inteligencia se puede usar, por ejemplo, para detectar anomalías en una radiografía que el ojo humano casi no percibiría, o para encontrar patrones en un conjunto enorme de datos que a nosotros nos costaría meses o años. También se usa para personalizar las portadas de las películas que vemos en Netflix, recomendarnos listas de canciones en Spotify según nuestros gustos, o predecir qué alumnos tienen más chances de dejar las clases en una universidad.

¿Por qué dicen que la IA es la herramienta más potente jamás creada?

La IA es una herramienta ultrapoderosa y creo que es de las más importantes que se ha creado. Pero tenemos que ponerla en contexto, entenderla, y moderar nuestras expectativas y nuestros miedos también. Antes de las computadoras y el internet, la inteligencia artificial no era más que un concepto que muy difícilmente podría llevarse adelante. Entonces, ¿qué es más poderoso? ¿La IA, la computadora, o el cerebro humano que creó y llevó adelante ambas cosas? (…) Estoy convencido de que estamos ante un punto de inflexión en la historia de la humanidad. Y lo que hagamos con ello será clave para nuestro futuro.

Se dice que en el futuro la IA generativa –la que creó la fotografía del papa vestido de Balenciaga– hará tal cantidad de imágenes sintéticas que no distinguiremos qué es real y qué no, y que se podrían usar para hacer acusaciones falsas. ¿Compartes este pronóstico negativo?

Se calcula que aproximadamente el 10% de la data que se produzca globalmente para 2025 será realizada por IA generativa. Y, efectivamente, puede ser un peligro. Por ejemplo, la tecnología deepfake (o ultrafalso) puede crear un video falso mío hablando y diciendo con mi voz que la IA va a destruir a la humanidad, algo que no he dicho, pero que podría parecer real. Esto nos obligará a adoptar regulaciones y nuevos hábitos, además de un marco ético desde el punto de vista organizacional. Así como existe tecnología deepfake, también hay herramientas que pueden detectar qué imágenes, textos o videos fueron hechos por una IA y cuáles no. Quizás en un futuro no muy lejano esas herramientas no sólo sean parte de nuestro uso frecuente, sino que estarán integradas a las redes sociales y a internet en general.

Otra herramienta de IA es la que ofrece la clonación de la voz humana, que podría ser usada para cometer delitos y suplantar la identidad de las personas...

Sin duda. El ciberdelito ya tiene otro tipo de aristas que hace unos años no imaginábamos. No recuerdo exactamente dónde escuché esto, pero fue muy esclarecedor: “Cuando, en su momento, los ladrones empezaron a usar automóviles o motocicletas para cometer delitos, los policías también tuvieron que usar esas tecnologías para combatir el delito”. ¿Realmente podemos pensar en una estación de Policía que no tenga una inteligencia artificial?

Por estos miedos es que hace poco, líderes e investigadores de IA, con Elon Musk a la cabeza, firmaron una carta en la que pedían frenar los avances acelerados de programas de IA como ChatGPT. ¿Es la inteligencia artificial una real amenaza para el mundo?

Esa carta fue bastante polémica porque muchos de los firmantes también estaban económicamente interesados en que algunos de esos proyectos se frenaran. Hoy la IA no es una amenaza, pero eso no quiere decir que si no la usamos bien, no pueda convertirse en una. Por eso, es muy importante desarrollarla y utilizarla atendiendo a un marco ético. Dentro de RockingData, la organización que dirijo, trabajamos ese marco ético con un equipo multidisciplinario de filósofos, politólogos y científicos de datos, y en esa línea también trabajamos con organizaciones internacionales que crearon el primer marco ético con directrices sobre cómo desarrollar IA de forma responsable.

Yuval Noah Harari, autor de Sapiens: De animales a dioses, ha dicho que “la IA se puede apoderar de la cultura” al ser capaz de producir textos, pintura, música. ¿Podrá una IA tener la sensibilidad de los humanos para crear obras de arte?

No soy un experto en arte, pero como yo lo entiendo, los grandes artistas de la historia fueron quienes, más allá de su buena técnica, supieron interpretar momentos históricos y hacer cosas absolutamente inesperadas. La IA generativa no hace eso, más bien imita y toma patrones de lo que entiende que se espera de ella. Eso no es disrupción. Los grandes artistas son aquellos que hicieron cosas que fueron contra la corriente, la IA está más entrenada para ir a favor de la corriente.

Y dejando volar nuestra imaginación, ¿será la IA capaz de traernos de vuelta de la muerte, así como pasó en ese capítulo de ‘Black mirror’ en el que una viuda habla con una IA que clonó la voz y tomó la personalidad de su esposo fallecido?

Cuando vemos la foto de alguien que falleció, sentimos por un instante que lo tenemos cerca, ¿no? Antes de que existiera la fotografía eso era difícil y teníamos que conformarnos con nuestros recuerdos, o, en el mejor de los casos, con una pintura, un dibujo o un objeto. Hoy podemos escuchar los audios que dejaron en WhatsApp nuestros seres queridos, o ver fotos. Pero también tenemos la tecnología para entrenar a una IA con su forma de hablar, su voz, y sus imágenes, y hacerle preguntas a esa IA para que responda como si fuera nuestro ser querido. Esa tecnología ya existe y seguirá mejorando. Pero volvemos al mismo punto de antes: la clave está en cómo los humanos interpretamos esa realidad, y que lo usemos de forma ética, responsable, y conociendo sus límites y desafíos.

Hablemos de tu libro "¿Cómo piensan las máquinas?", ¿es cierto que la inteligencia artificial GTP-3 escribió el prólogo? ¿cómo se te ocurrió incluirla?

La tecnología que usamos para escribir el prólogo del libro era GPT-2, y no era de fácil acceso como la que vemos ahora en ChatGPT. Me gustaría decirte que fue una idea innovadora y disruptiva, pero, en realidad, recurrí a ella porque el humano que tenía en mente para escribir el prólogo nunca respondió. Tenía el cierre de edición encima y un miembro del equipo de RockingData me contó que había tenido una conversación súper interesante con esta herramienta. En ese momento se me ocurrió replicar una de esas conversaciones y usarla para el libro. Y así surgió el prólogo.

Y en ese prólogo la IA dice que “la inteligencia artificial ayudará a la humanidad a alcanzar su máximo potencial”, ¿piensas igual?

Si lo dice GPT, ¿por qué no le creería?... No, en serio, yo estoy convencido de que eso será así. Pero no lo creo de forma ingenua o utópica. Hay muchos peligros como te comenté. Por eso, desde mi lugar, intento que más personas se interesen y conozcan sobre esta tecnología para pensarla desde distintos ángulos y puntos de vista. Por eso valoro y agradezco este espacio que me brindas para llegar a más personas en toda América Latina. Es realmente muy importante que todos logremos conocer cómo esta tecnología impacta en nuestro día a día, y cómo podemos usarla responsablemente.

¿Cuáles serían esos retos éticos que deberían considerar las corporaciones desarrolladoras de IA para que no vivamos un futuro distópico?

Muchos. De algunos hablamos anteriormente, pero uno que no mencionamos tiene que ver con los sesgos, y estos se forman porque los humanos, desde nuestra subjetividad, le damos peso o valor desproporcionado a algunas cosas por sobre otras, lo que nos impide ver la realidad como realmente es. Hace un par de años se hizo muy famoso un caso de una IA de selección de personal que filtraba los CV para una gran compañía. La cuestión es que alguien se dio cuenta de que esa IA no recomendaba mujeres para puestos directivos porque los datos con los que se había entrenado decían que los puestos directivos eran ocupados por hombres. En ese caso, el problema no era de la IA, sino de cómo la habían entrenado, sin tener en cuenta la desigualdad de género que la IA contribuiría a perpetrar. Existen mecanismos y procesos para evitar caer en estos sesgos cuando desarrollamos IA, y ese debería ser parte de nuestro marco ético.