Liberó el código de su sistema de recorte de imágenes a desarrolladores y “hackers éticos” para que encuentren fallas.

Twitter lanzó un programa de recompensas específico para mejorar su algoritmo de recorte de imágenes, con el que espera que los ‘hackers’ que se apunten a esta competición contribuyan a conocer los potenciales daños que generan.

El pasado año, la plataforma protagonizó una polémica al descubrir que su algoritmo de recorte de imágenes eliminaba de forma repetida rostros negros o con el tono de piel oscuro en general, en favor de las caras de personas blancas.

Por tal motivo, la compañía ofreció recompensas que oscilan entre $ 500 y $ 3500 dólares a cualquiera que encuentre evidencia de sesgo dañino en sus algoritmos.

En mayo de este año reconoció que ese sesgo era cierto y publicó en GitHub su código para que desarrolladores pudieran apoyar en la tarea de mejorar este problema. Por tal motivo, la compañía quiere eliminar la mayor cantidad de sesgos con un concurso.

“Queremos llevar este trabajo un paso más allá al invitar e incentivar a la comunidad para que ayude a identificar los daños potenciales de este algoritmo más allá de lo que nosotros mismos identificamos.”, escribió Twitter.

La competición, distinta del programa de recompensas por fallos de seguridad, dará a los participantes acceso tanto al modelo como al código empleados por la plataforma para realizar un recorte de la imagen de los ‘tuits’ cuando esta excede determinadas dimensiones.

La compañía insta a los participantes a demostrar los daños potenciales que puede introducir el algoritmo de recorte, ya sean intencionales o involuntarios, con especial atención a los daños que puedan dirigirse a las comunidades marginales.

Twitter desvelará a los ganadores durante DEFCON, el próximo 9 de agosto, como ha informado la compañía en la página de HackerOne. Los reconocerá con premios económicos. El primer lugar se llevará US$ 3.500, el segundo US$ 1.000, el tercero US$ 500 y los más innovadores US$ 1.000.

Algoritmo de prominencia

El algoritmo en cuestión, conocido como algoritmo de prominencia, genera una imagen previa y para ello se basa en la forma en que ve el ojo humano, priorizando lo que puede ser más importante, y estima lo que una persona podría querer ver primero dentro de una imagen, como ya ha explicado Twitter en otras ocasiones.

El algoritmo de prominencia busca demostrar su inocencia. Foto AFP

El algoritmo de prominencia busca demostrar su inocencia. Foto AFP

Sin embargo, un experimento realizado por el ingeniero de criptografía e infraestructura Tony Arcieri mostró que el algoritmo estaba sesgado, y que en su recorte automático perjudicaba a las personas negras y a las mujeres, cuando se enfrentaban dos imágenes.

En mayo, la compañía compartió los resultados del estudio que había llevado a cabo, cuyas conclusiones mostraron que el algoritmo se encuentra dentro de lo que se considera equidad en términos de aprendizaje automático, si bien muestra un ligero sesgo a favor de las personas blancas y las mujeres.

Nuevas funciones

El pasado 14 de julio, Twitter anunció en una publicación de su blog que sus famosos ‘Fleets’ ya no estarían disponibles a partir del 3 de agosto debido a su escasa popularidad en la red social.

En esa misma ocasión, anunciaron que habían empezado a trabajar en nuevas funciones para añadirlas a la red social, ya que sus resultados trimestrales han registrado un aumento en los ingresos debido al buen rendimiento de la publicidad y la subida del número de usuarios.

Leave a Comment

Radio Pinamar FM 100.7