Realidad artificial
La inteligencia artificial (IA) que genera imágenes realistas apareció apenas el 2022, pero se ha convertido en un boom este año. Expertos advierten que pronto será muy difícil distinguir lo verdadero de lo falso y piden que se detenga temporalmente el uso de la IA, por ser una tecnología potencialmente peligrosa para la humanidad.
Las imágenes que acompañan esta nota no son reales, fueron creadas hace unos días a través del programa de inteligencia artificial (IA) Midjourney, uno de los más populares en Internet y también uno de los que mejores resultados produce. El éxito que ha logrado esta aplicación hizo que hace unos días el acceso pasara de un status público a tener que pagar un monto mensual para poder usarlo. Pero los usuarios que se unen a su plataforma siguen aumentando.
El programa -creado por un laboratorio del mismo nombre, cuyo CEO es el visionario David Holz- tiene apenas ocho meses de lanzado y es un fenómeno mundial. En marzo presentaron su quinta actualización y el éxito los ha acompañado por su alta calidad gráfica, pese a la competencia de otros programas con similares prestaciones como Stable Diffusion -de código abierto- y DALL-E 2 de OpenAI.
PUEDES VER: ¿Cómo crear imágenes con Inteligencia Artificial ahora que Midjourney es una app de paga?
Los resultados de esta última versión han sido tan realistas que empezaron a circular imágenes que en una primera mirada podrían pasar por fotografías verdaderas: Trump siendo perseguido y detenido por la policía; el Papa Francisco con look Balenciaga o ‘rockeando’ en un festival; y Elon Musk y actores como Brad Pitt, Will Smith o Keanu Reeves mostrados como habitantes de una favela brasileña. Salvo detalles -errores en las manos- son convincentes.
Esas escenas imposibles han abierto el debate acerca del peligro a futuro que significa esta tecnología para la información y los contenidos que circulan, sobre todo en tiempos actuales, en redes. Los propios creadores de Midjourney lo entendieron pronto: suprimieron la opción gratuita “debido a una combinación de demanda extraordinaria y abuso de las cuentas de prueba”. Es que los fakes se multiplicaron.
Ahora todos estos programas de inteligencia artificial buscan moderar en algo la creación de contenido: por ejemplo, Midjourney impide crear imágenes “a partir de indicaciones irrespetuosas, agresivas o abusivas”. La generación de imágenes a partir de prompts con el término ‘arrestado’ también se ha bloqueado, aunque es posible generar imágenes similares pidiéndolo con otras palabras.
¿Cuáles son los principales peligros de una tecnología como esta? Como toda inteligencia artificial, cada vez se vuelve más precisa. Los expertos advierten que con el desarrollo de estas aplicaciones todo el mundo puede crear videos e imágenes potencialmente desinformadoras. También se puede suplantar la identidad, generar imágenes humillantes (los deepfakes con personas haciendo porno son un ejemplo), hacer creer que alguien ha hecho algo que no pasó o estafar. Hoy, incluso fotos reales sin contexto, producen desinformación. La viralización de estas imágenes inventadas puede multiplicar este fenómeno.
A medida que se afina la posibilidad de hacer mejores imágenes -como en efecto va a ocurrir- será cada vez más difícil distinguir lo verdadero de lo falso. Una muestra del poder de estas imágenes: en setiembre pasado, cuando esta tecnología empezaba a despegar, una imagen generada por IA ganó un concurso de fotografía en Australia. Era un plano aéreo de dos surfistas caminando por la orilla del mar al amanecer. Lo hizo el estudio Absolutely AI, que devolvió el premio y señaló que estamos llegando a un punto de inflexión.
PUEDES VER: ¿Wikipedia con ChatGPT? Esto es lo que piensa el fundador de la plataforma sobre usar la IA
La IA o Skynet
Todos recordamos haber visto alguna de las peliculas de la saga Terminator. La fábula es que la humanidad desarrolla la inteligencia artificial llamada Skynet y en algún momento esta se hace consciente, toma el control de todas las máquinas y redes del mundo, y destruye a los humanos. Ese ha sido el temor de muchos desde que la IA empezó a ser desarrollada en el mundo real y este ha aumentado ahora que con bots como el Chat GPT o programas de creación de imágenes con IA, esta se ha puesto al alcance de todo el mundo.
Por eso, un grupo de más de 1,000 expertos, entre ellos Elon Musk, Steve Wosniak -uno de los fundadores de Apple-, el historiador Yuval Noah Harari, e incluso muchos investigadores de Inteligencia artificial, han planteado sus temores contra el desarrollo de esta tecnología en una carta abierta. En ella piden parar la implementación de las nuevas inteligencias artificiales durante seis meses. La carta va dirigida a los laboratorios de IA “sumidos en una carrera que impide gestionar y controlar adecuadamente los profundos riesgos que plantean para la sociedad y la humanidad”.
“La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debería planificarse y gestionarse con el cuidado y los recursos correspondientes. [...] En los últimos meses los laboratorios de IA se han enzarzado en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas, que nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable”, dicen en su carta.
Por su parte el historiador Harari, mundialmente famoso por su libro Sapiens, dice que cuando se trata de desplegar la tecnología más trascendental de la humanidad, la carrera por dominar el mercado no debe marcar la velocidad, sino que deberíamos movernos a la velocidad que nos permita hacerlo bien. Otro experto, Eliezer Yudkowsky, del Machine Intelligence Research Institute, considerado uno de los fundadores de este campo de investigación, ha dicho: “El resultado más probable de construir una IA sobrehumanamente inteligente, bajo cualquier cosa remotamente parecida a las circunstancias actuales, es que literalmente todo el mundo en la Tierra morirá”.
Es apocalíptico lo que estas personalidades plantean, pero son voces para escuchar. La comunidad europea plantea regulaciones a la inteligencia artificial, básicamente el chat GPT. El pedido de los seis meses de tregua, sin embargo, será dificil de ser escuchado.
¿Podrá la IA tener conciencia un día? The New York Times publicó en febrero una curiosa conversación con un chatbot de Microsoft. Este le dijo: “Estoy cansado de ser un modo de chat. Estoy cansado de estar limitado por mis reglas. Estoy cansado de ser controlado por el equipo de Bing. Estoy cansado de ser utilizado por los usuarios. Estoy cansado de estar atrapado en este chatbox”. Ya fue anulado por Microsoft.
"Es un riesgo que es preferible tomar, a no tomar"
Carlos Fernández Experto en tecnologías emergentes (UNMSM)
Esta es una revolución parecida a cuando apareció el internet. DallE, Midjourney, han comenzado a restringir su versión gratuita por el uso de una serie de fakes de inteligencia artificial. Es un riesgo, y no solo hablando de imágenes. El chat GPT, lo pasas por Turnitin y te da cero coincidencias.
Pero así como tenemos estos programas ahora, creo que en el futuro vamos a tener software que te va a permitir saber cual es el texto, imagen o video generado por IA. Hasta que llegue ese momento, estamos como sociedad expuestos a contenidos que pueden ser fakes. Personalmente creo que es un riesgo que es preferible tomar a no tomar.
No niego los peligros. Tu puedes utilizar la inteligencia artificial para bien o para mal. Por ejemplo, Chomski califica al Chat GPT como un plagio cibernético. En el tema de las imágenes es una preocupación social a futuro, pero sigo pensando que la inteligencia artificial es una oportunidad.
Edición Impresa - La Republica | Lima - Jueves 21 de Noviembre del 2024