¿Cómo detectar si una foto que viste en Instagram o Facebook fue generada por IA?
Ya son millones las imágenes creadas por plataformas de IA, pero pocos usuarios saben cómo detectar si dichas fotos están presentes en publicaciones de las redes sociales.
Hoy en día, millones de internautas en el mundo utilizan servicios que se basan en la inteligencia artificial para generar imágenes que se ven muy realistas, según instrucciones específicas que escriben. En ese sentido, redes sociales como Instagram y Facebook han adoptado protocolos que permiten evidenciar el origen de las piezas gráficas que se comparten para que los usuarios las identifiquen con mayor facilidad.
Imaginado con IA
Con el objetivo de dar a conocer las fuentes de cada imagen, Facebook e Instagram desde ahora plasmarán las etiquetas 'imaginado con IA' en las fotos producidas por Meta AI. La opción es compatible con los idiomas disponibles en sus plataformas y, para ello, trabajarán con socios del sector para establecer estándares técnicos. De ese modo, se marcará cuando un contenido se originó con inteligencia artificial, una medida que piensa en la transparencia.
PUEDES VER: ¿Inicia su decadencia? Reportan que venta de tablets llega a niveles más bajos de la última década
Si bien es cierto que el diseño no es definitivo, de todos modos la etiqueta sí indicará que una foto ha sido generada por IA, justo en la parte superior de la captura con el texto 'AI info' y el ícono de tres estrellas, al estilo de Samsung.
Asimismo, se sabe que tanto Facebook como Instagram se enfocarán en fortalecer la transparencia de Meta AI. Se centrará la campaña en establecer marcadores visibles, marcas de agua invisibles y metadatos en las imágenes generadas. También van a desarrollar clasificadores que detectarán de forma automática ese tipo de materiales multimedia, incluso cuando el usuario no indique cuál es la procedencia de los mismos.
Desde la matriz Meta exploran más formas para dificultar la eliminación o alteración de las marcas de agua. De hecho, el equipo de investigaciones de inteligencia artificial, denominado como FAIR, divulgó al público una serie de estudios sobre una tecnología de marcadores que catalogan como 'Stable Signature' (con el objetivo de reforzar la identificación).
PUEDES VER: Tiran al suelo las Apple Vision Pro de US$3.500 para saber si resiste y resultado sorprende
Es importante precisar que las normas comunitarias de Instagram y Facebook aplican para todos los contenidos publicados en sus aplicaciones, sea cual sea la forma de creación. Sobre las publicaciones que califica como dañinas, el objetivo principal de los servicios es identificarlo y tomar medidas necesarias para su regulación.
En esa línea, se emplearán modernos modelos de lenguaje (LLM) que se entrenan con base en sus normas comunitarias para que tengan la capacidad de filtrar los casos extremos que requieran de intervención de los humanos que forman parte del equipo de moderadores de Meta.
¿Y para los videos?
PUEDES VER: ¿Cómo eliminar los archivos de tus chats de WhatsApp que ocupan más espacio en el celular?
Meta confirmó que las nuevas medidas también se dirigen a regular la publicación de video y audio generado por IA. Por lo tanto, aseguran que se va a penalizar a todo aquel usuario que publique materiales fotorrealistas creados por la tecnología automatizada y sin especificar su origen.