Transparencia en el recorte de imágenes y los cambios que vienen

Siempre nos esforzamos por trabajar de forma transparente y fácil de entender, pero no siempre lo hacemos bien. Las recientes conversaciones sobre nuestros métodos de recorte de fotos llevaron esto a un primer plano, y durante la semana pasada, hemos estado revisando la forma en que probamos el sesgo en nuestros sistemas y discutiendo las opciones para mejorar la forma en que mostramos imágenes en Twitter. Así que, aunque todavía queda mucho por hacer, hoy queremos compartir cómo estamos desarrollando una solución para cada una de estas áreas. 

Cómo ponemos a prueba nuestro sistema

Probamos el sistema existente de aprendizaje automático (Machine Learning) que decide cómo recortar imágenes antes de traerlo a Twitter, pero debimos haber publicado cómo lo hicimos al mismo tiempo, para que el análisis pudiera ser reproducido externamente. Esto fue un descuido.  

El sistema de recorte de imágenes se basa en la prominencia, que predice donde la gente podría mirar primero. Para nuestro análisis de sesgo inicial, probamos la preferencia por parejas entre dos grupos demográficos (Blanco-Negro, Blanco-Indio, Blanco-Asiático y Hombre-Mujer). En cada prueba, combinamos dos caras en la misma imagen, con su orden aleatorio, y luego calculamos el mapa de notoriedad sobre la imagen combinada. Luego, localizamos el máximo de notoriedad en el mapa, y registramos en qué categoría demográfica aterrizó. Repetimos esto 200 veces para cada par de categorías demográficas y evaluamos la frecuencia de preferir una sobre la otra.

Aunque nuestros análisis hasta la fecha no han mostrado sesgos raciales o de género, reconocemos que la forma en que se recortan automáticamente las fotos, significa que hay un potencial de daño. Debimos haber hecho un mejor trabajo al anticipar esta posibilidad cuando diseñamos y construimos este producto. Actualmente estamos llevando a cabo análisis adicionales para añadir más rigor a nuestras pruebas, estamos comprometidos a compartir nuestros hallazgos y estamos explorando formas de abrir nuestro análisis para que otros puedan ayudar a mantenernos responsables.

Los cambios que vienen

Estamos priorizando el trabajo para disminuir nuestra dependencia en el recorte automático de imágenes y dar a las personas más visibilidad y control sobre cómo se verán sus imágenes en un Tweet. Hemos empezado a explorar diferentes opciones para ver qué es lo que mejor funciona en la amplia gama de imágenes que la gente twittea cada día. Esperamos que al dar a las personas más opciones para el recorte de imágenes, y la posibilidad de ver previamente en el compositor de Tweets cómo se verán estas, pueda ayudar a reducir el riesgo de daño.  

En el futuro, nos comprometemos a seguir el principio de diseño de "lo que ves es lo que obtienes", lo que significa simplemente: la foto que ves en el compositor del Tweet es lo que se verá en el Tweet. Puede haber algunas excepciones a esto, como las fotos que no son de tamaño estándar o que son realmente largas o anchas. En esos casos, tendremos que experimentar con la forma de presentar la foto de manera que no pierda el punto de enfoque previsto por el creador o que no afecte a la integridad de la foto. 

El sesgo en los sistemas de aprendizaje automático es un problema de toda la industria, y uno que estamos comprometidos a mejorar en Twitter. Somos conscientes de nuestra responsabilidad, y queremos trabajar para que todo el mundo entienda fácilmente cómo funcionan nuestros sistemas. Aunque ningún sistema puede estar completamente libre de prejuicios, continuaremos minimizando los prejuicios a través de un análisis deliberado y minucioso, y compartiendo actualizaciones a medida que avancemos en este espacio.

Hay mucho trabajo por hacer, pero estamos agradecidos con todos los que se expresaron y compartieron sus opiniones sobre esto. Estamos ansiosos por mejorar y compartiremos actualizaciones adicionales a medida que las tengamos.