Un nuevo escándalo con respecto a los sistemas de moderación de contenido de Meta ha vuelto a hacer que salten las alarmas esta vez entre la comunidad no binaria de las diferentes aplicaciones del conglomerado de Zuckerberg. El Consejo Asesor de Meta ha instado a hacer más inclusiva su política sobre desnudos en Facebook e Instagram tras el bloqueo de dos publicaciones a una pareja que se identifica como transgenero y no binaria y que ha generado polémica en redes.
El Consejo Asesor de Contenido de Meta ha solicitado a la propia compañía tecnológica que aclare su política sobre ‘Desnudos y actividad sexual de adultos’ con el objetivo de evitar la discriminacion que pueden llegar a sufrir ciertos usuarios por su orientación sexual en las redes sociales, refiriéndose en concreto a las personas transexuales y las no binarias.
A pesar de que Meta limita en sus redes sociales, Facebook e Instagram, la publicación de imágenes que muestren desnudos o actividad sexual por tratarse de un contenido sensible y no apto para todos los usuarios e incluso porque dichas publicaciones pueden ser contenido que no sea consentido o en el que aparezcan menores; no lo hace en todos los casos. Esta política da cabida a excepciones en la publicación de desnudos siempre y cuando se compartan con fines educativos o médicos y realiza una clara distinción entre desnudos de hombres y mujeres binarios, permitiendo a los hombres mostrar el torso desnudo, algo que no ocurre con el sexo opuesto.
Esta política da pie a multitud de debates y críticas dado que un algoritmo basado “en una visión binaria del género que hace una distinción entre cuerpos masculinos y femeninos” no termina de ser justo de igual forma para todos los usuarios. Este sistema no deja claras las leyes para las personas intersexuales y requiere que los revisores realicen evaluaciones manuales, algo realmente impráctico a gran escala.
Las limitaciones del algoritmo son el motivo que llevó a los sistemas automáticos de Instagram a activarse con las dos publicaciones de personas trans no binarias y tras una revisión manual posterior, se saldó con la retirada de dichas publicaciones por “la presencia de senos y un enlace a una página de recaudación de fondos”. Ante esta decisión, el Consejo Asesor determina que la eliminación de dichas publicaciones no está en línea con los estándares comunitarios, los valores o las responsabilidades de derechos humanos de Meta, que debe ser sensible con respecto al impacto de sus políticas a las personas sujetas a discriminación.