Twitter ofrece hasta $ 3.500 por encontrar errores en su algoritmo de imágenes

Twitter anunció el lanzamiento de su primer programa de recompensas dirigido a la comunidad de investigadores para detectar sesgos aún no descubiertos en su algoritmo de prominencia, mejor conocido como algoritmo de recorte de imágenes.

“Encontrar sesgos en los modelos de aprendizaje automático es difícil y, a veces, las empresas descubren los daños éticos no deseados una vez que ya han llegado al público. Queremos cambiar eso”, manifestó el equipo de Ética, Transparencia y Responsabilidad del Aprendizaje Automático de Twitter.

El año pasado, la red social recibió fuertes críticas por su sistema de previsualización de imágenes, el cual selecciona qué parte de la fotografía se destaca en la vista previa de los tuits. Presuntamente, este elegía de forma constante rostros de piel blanca por encima de los afrodescendientes.

Esta controversia llevó a la compañía a pedir disculpas públicas y a tener que aplicar mejoras en su algoritmo. “Es 100% nuestra culpa. Nadie debe decir lo contrario. El siguiente paso es arreglarlo”, sostuvo en ese entonces Dantley Davis, director de diseño de Twitter.

En mayo de este año, la empresa publicó un artículo con los resultados de su investigación para identificar sesgos en su algoritmo de prominencia. En búsqueda de enmendar los errores, comenzó a probar una nueva forma de mostrar las fotos completas en su aplicación para iOS y Android.

De acuerdo con la compañía, su objetivo con este concurso es sentar un precedente en Twitter y en la industria para “la identificación proactiva y colectiva de los daños algorítmicos”. Para ello, han compartido su código y modelo de recorte de imágenes.

Por su parte, Rumman Chowdhury, directora de Twitter META, señaló que en la empresa consideran que “las personas deben ser recompensadas por identificar estos problemas”. A su vez, reconocen que no pueden resolver estos desafíos solos.

Twitter destaca que esta es “la primera competencia de recompensas por sesgo algorítmico de la industria”. El desafío estará abierto para inscripciones hasta el próximo 6 de agosto a través del sitio web de HackerOne.

Los ganadores serán anunciados el domingo 8 de agosto durante el taller DEF CON AI Village organizado por la red social, donde tendrán que presentar sus trabajos. Los equipos finalistas recibirán las siguientes recompensas:

1. Primer lugar: $ 3.500
2. Segundo lugar: $ 1.000
3. Tercer lugar: $ 500
4. El más innovador: $ 1.000
5. El más universal (que se aplica a la mayoría de tipos de algoritmos): $ 1.000