El chatbot Grok de Elon Musk difundió información errónea sobre la guerra entre Israel e Irán, según estudio

Grok, el chatbot desarrollado por la empresa xAI de Elon Musk, brindó a los usuarios respuestas inexactas y contradictorias, al intentarse verificar la información sobre la guerra entre Israel e Irán en junio. El estudio realizado por el laboratorio digital del Atlantic Council sugiere que esta inteligencia artificial (IA) careció de datos fiables durante los días de crisis en el medio oriente.

"Durante los primeros días del conflicto entre Israel e Irán revelaron fallos significativos y demostraron las limitaciones del chatbot para proporcionar información precisa, fiable y coherente en tiempos de crisis", afirmó el grupo de investigación.

Los fallos de Grok durante el conflicto Israel-Irán

El chatbot analizó 130 mil mensajes en varios idiomas en la plataforma X (Twitter), que tiene integrado a Grok, y encontró que tenía dificultades para autenticar el contenido generado por la IA. Por ejemplo, tras las respuestas ofensivas de Irán contra Israel, el chatbot ofreció respuestas muy diferentes sobre imágenes generadas por IA de un aeropuerto destruido, en el mismo minuto negaba la destrucción del aeropuerto  y confirmaba que había recibido los ataques.

En algunas respuestas, Grok afirmó que los daños se debían a un misil disparado desde Yemen, en otras identificó falsamente el aeropuerto como el de Beirut, Gaza o Teherán. Según los expertos, ya se ha equivocado en la verificación de hechos sobre el reciente conflicto entre India y Pakistán y durante las manifestaciones en Los Ángeles contra las redadas migratorias ordenadas por el presidente estadounidense Donald Trump. 

¿Cómo Grok ofrece las respuestas?

Según la web oficial de X, Grok al responder a las consultas de los usuarios mediante texto o entrada de voz, tiene una función única que le permite decidir si buscar o no X publicaciones públicas y realizar una búsqueda web en tiempo real en Internet. El acceso del chat bot a los posts públicos en tiempo real le permite responder a las consultas de los usuarios con información actualizada y conocimientos sobre una amplia gama de temas.