Los mecanismos de moderación de publicaciones en Facebook solían aplicar las reglas de la compañía sin distinción alguna, o al menos así era hasta que actores, actrices, celebridades, políticos y artistas comenzaron a quejarse de que no todas sus publicaciones eran aprobadas, lo que estaba generando un problema de relaciones públicas para el gigante de las redes sociales.
Para superar rápidamente estos problemas, Facebook lanzó el programa XCheck, que ha permitido a políticos, celebridades, activistas, atletas y personas famosas en general publicar cualquier cosa, esquivando las restricciones de los moderadores humanos y automáticos y sin experimentar consecuencia alguna.
En un informe interno de la compañía filtrado recientemente y publicado por Wall Street Journal se menciona: “No aplicamos nuestras políticas y estándares para unos cuantos miembros selectos de nuestra comunidad”; claro que esta afirmación es relativa, ya que al menos 5.8 millones de cuentas en la plataforma forman parte de la “lista blanca” de XCheck, aplicable para Facebook e Instagram, según señala la documentación filtrada.
Antes de continuar, recordemos cómo funciona la moderación de Facebook. Cuando un usuario realiza una publicación, un software automático podría identificar las imágenes, texto o videos publicados como violatorios de la plataforma, restringiendo la publicación. Los usuarios convencionales pueden enviar una queja a Facebook buscando la aprobación de sus posts, aunque en la gran mayoría de casos esto no tiene mayores consecuencias. Las cosas cambian cuando los reportes los envían cuentas verificadas o con millones de usuarios, pues estas quejas se convierten en crisis de relaciones públicas para la compañía.
En su origen, XCheck se ideó como una forma de mitigar estas crisis, permitiendo a usuarios influyentes realizar publicaciones con más libertad que el resto de usuarios, aunque con el tiempo se ha convertido en una especie de membresía VIP con la que los propietarios de estas páginas o perfiles están exentos de las reglas en la plataforma. Si bien los documentos filtrados sugieren que Facebook está al tanto de los problemas generados por XCheck, la compañía parece no tener idea de cómo lidiar con esta situación.
El reporte señala que, actualmente, los moderadores humanos y automáticos en Facebook analizan menos del 10% de las publicaciones de los miembros de XCheck, además de que la gran mayoría de las publicaciones monitoreadas por los moderadores son igualmente aprobadas, sin importar que se trate de contenido explícito, datos no verificados o noticias falsas.
Un ejemplo de este trato especial es el caso del futbolista brasileño Neymar, quien en 2019 publicó un video que contenía fotos íntimas de una mujer que lo acusaba de violación; el futbolista reveló este metraje como parte de su defensa, argumentando que la mujer deseaba extorsionarlo. Facebook habría impedido a un usuario convencional publicar el video, mientras que la publicación permaneció visible en el perfil del futbolista por más de 24 horas, acumulando 56 millones de vistas: “Después de analizar el caso, decidimos dejar las cuentas de Neymar activas, lo que representó una evasión de nuestra política habitual para la inhabilitación de perfiles”, menciona el reporte filtrado.
Sobre la filtración de estos reportes, un portavoz de Facebook publicó algunos mensajes en su cuenta de Twitter: “Sabemos que esta práctica no es perfecta y existen descompensaciones entre velocidad y precisión. Tenemos nuevos equipos y nuevos recursos para el trabajo en Facebook”, agrega.
Aún así, la compañía sigue siendo poco claro respecto a cómo planean abordar los inconvenientes generados por XCheck, que además es un programa que sigue creciendo. Seguramente los problemas seguirán apareciendo, aunque Facebook parece estar acostumbrada a esta situación.
Para conocer más sobre riesgos de seguridad informática, malware, vulnerabilidades y tecnologías de la información, no dude en ingresar al sitio web del Instituto Internacional de Seguridad Cibernética (IICS).
Trabajando como arquitecto de ciberseguridad, el se enfoca en protección de datos y la seguridad de datos empresariales. Antes de unirse a nosotros, ocupó varios puestos de investigador de ciberseguridad con diferentes empresas. También tiene experiencia en diferentes industrias como finanzas, salud medica y reconocimiento facial.