Esta es la red social que está envuelta en la polémica por la discriminación de su algoritmo

Tumblr. y la Comisión de Derechos Humanos de Nueva York (CCHR) han resuelto las acusaciones de discriminación relacionadas con la prohibición de contenido para adultos de la compañía en dos mil dieciocho, que los legisladores de la urbe afirman que afectó de forma desmedida a los usuarios LGBTQ. El pacto requiere que Tumblr. revise su proceso de apelaciones de usuarios y capacite a sus moderadores humanos en temas de diversidad e inclusión, aparte de repasar miles y miles de casos viejos y contratar a un especialista para buscar posibles cortes en sus algoritmos de moderación.

Casos de discriminación

El pacto, que no implicó una protesta legal formal y se firmó el mes pasado, marca una de las primeras veces que los legisladores alcanzan un acuerdo para mudar las políticas de moderación de una red social basadas en inconvenientes de corte algorítmico. Soluciona una investigación que la CCHR comenzó en el mes de diciembre de dos mil dieciocho, poco una vez que Tumblr. prohibiese el contenido sexual explícito y la desnudez, e hiciese cumplir sus reglas con un sistema de supresión automatizado graciosamente impreciso.

El pacto da a Tumblr. ciento ochenta días para contratar a un especialista en temas de orientación sexual e identidad de género y brindar formación relacionada a los moderadores. Asimismo debe contratar a alguien con experiencia en este área, como en clasificación de imágenes, que examinará los algoritmos de moderación de Tumblr. para poder ver si resulta más probable que marquen el contenido LGBTQ. Como una parte de una revisión general, Tumblr. volverá a examinar tres mil casos viejos en los que un usuario apeló de forma exitosa una supresión, en pos de patrones que pudiesen señalar parcialidad.

El trato semeja haber ocurrido en una gran parte debido al dueño de WordPress.com, Automattic, que adquirió Tumblr. de Verizon en dos mil diecinueve y supuestamente colaboró de manera estrecha con la CCHR. Automattic había revisado el sistema original para añadir más supervisión humana aun ya antes del pacto. Bajo su propiedad, Tumblr. asimismo ha intentado reconciliarse con los usuarios LGBTQ que partieron como una parte de un éxodo comunitario más grande.

Tumblr. va a deber corregir

El pacto de Tumblr. podría ser un primer paso en un movimiento regulativo nacional más extenso. Las acusaciones de parcialidad contra las plataformas de redes sociales raras veces han tenido éxito en los tribunales, y el pacto semeja estar reforzado por el deSeo de Automattic de comprobar la moderación de Tumblr. y restaurar la confianza con la comunidad LGBTQ. La CCHR no ha proporcionado detalles sobre la patentiza que respalda sus reclamos de discriminación, por lo que es bastante difícil valorar los detalles de ese caso. Mas plataformas considerablemente más grandes como YouTube e Instagram asimismo se han enfrentado a acusaciones de moderación discriminatoria sin acción regulativa, y YouTube, en particular, ha vencido dos demandas de autores de vídeos LGBTQ y negros que adujeron discriminación algorítmica.

No obstante, el tema más extenso del corte algorítmico de raza y género se ha transformado en una prioridad cada vez mayor para los legisladores, particularmente en los casos en que podría afectar las opciones de residencia y empleo de las personas. E inclusive sin protestas legales, ciertas empresas como Twitter han revisado sus algoritmos de moderación bajo la presión del público, en ocasiones haciendo descubrimientos alarmantes en el proceso.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *