La represión de Meta contra el discurso palestino está lejos de ser «involuntaria»

Un informe sobre el gigante de las redes sociales validó las experiencias palestinas de censura en mayo de 2021, pero pasó por alto cómo esas políticas están sesgadas por diseño.

Después de mucha anticipación y retraso, una consultora independiente finalmente publicó su informe sobre la conducta de Meta, el gigante de las redes sociales que dirige Facebook, Instagram y WhatsApp, durante los eventos de mayo de 2021 en Israel-Palestina.

Después de un ataque de censura durante ese mes violento, que fue testigo de un levantamiento palestino masivo, represión israelí y una guerra contra Gaza, Meta encargó a Business for Social Responsibility (BSR) que realizara una revisión de sus políticas de moderación para el contenido en árabe y hebreo en las tres plataformas, y que produjera un informe de diligencia debida en materia de derechos humanos.

Entre sus hallazgos clave, el informe de BSR observó que la censura de Meta no solo violaba los derechos fundamentales de los palestinos, sino que la compañía no aplicaba sus políticas de moderación de contenido por igual a los dos idiomas. Más bien, el contenido árabe fue demasiado moderado, mientras que el contenido hebreo fue en gran parte intacto.

Las conclusiones distan mucho de sorprender. De hecho, validan firmemente la experiencia vivida por la mayoría de los usuarios palestinos en todas las plataformas de Meta, que durante mucho tiempo han argumentado que las prácticas de censura de la compañía son discriminatorias y sistemáticas. Los hallazgos se suman a los montones de pruebas, documentadas durante muchos años, que muestran que Meta está lejos de ser un intermediario neutral cuando se trata de Israel-Palestina.

Aún así, si bien el informe es un resultado bienvenido para la transparencia y la rendición de cuentas, también se queda corto al reconocer el contexto más amplio que sustenta las políticas y acciones sesgadas de Meta, sesgos que surgieron no solo por accidente, sino por diseño.

Shadowbans y sobreaplicación

Durante la brutal represión de Israel contra los manifestantes palestinos en la Ciudad Vieja de Jerusalén y el barrio de Sheikh Jarrah a fines de abril y mayo de 2021, junto con el ataque militar contra Gaza y el levantamiento que siguió, muchos palestinos recurrieron a las redes sociales para documentar, por minuto, la violencia y los abusos contra los derechos humanos del régimen israelí. También utilizaron las plataformas para desacreditar la desinformación sobre lo que estaba sucediendo en el terreno, y para compartir una narrativa auténtica y alternativa tanto a la cobertura de la prensa convencional como a la propaganda del gobierno israelí.

Casi de inmediato, las compañías de redes sociales, incluida Meta, comenzaron a reprimir el discurso palestino. Las cuentas pertenecientes a activistas, periodistas y testigos presenciales palestinos fueron suspendidas arbitrariamente y su contenido sistemáticamente eliminado. Algunos usuarios también experimentaron shadowbans poco después de expresar su apoyo público y solidaridad con los palestinos, y otros descubrieron que sus publicaciones relacionadas con Palestina habían reducido en gran medida la visibilidad entre sus seguidores.

Al mismo tiempo, se formaron docenas de chats grupales israelíes de la variedad «Muerte a los árabes» en WhatsApp para organizar pogromos contra las comunidades palestinas tanto dentro de Israel como en la Cisjordania ocupada. Los insultos racistas, la incitación a la violencia e incluso los llamados directos al asesinato y al genocidio dirigidos a los palestinos en hebreo no se inmutaron en Facebook e Instagram.

Según las conclusiones de BSR, la aplicación excesiva por parte de Meta de sus políticas sobre el contenido árabe, que incluía eliminaciones y suspensiones erronales y arbitrarias, tuvo un «impacto adverso» en los derechos de los palestinos a la libertad de expresión, la libertad de asociación y reunión, la participación política, la seguridad corporal, la no discriminación, la libertad de incitación y el acceso a la reparación.

En particular, BSR encontró que Meta censuró el contenido árabe a una tasa más alta que el contenido hebreo durante ese período, y además encontró que la tasa de detección de «contenido árabe potencialmente violatorio» era mucho más alta que el hebreo. Esto se debe a que Meta ha construido clasificadores, algoritmos predictivos que evalúan si una pieza de contenido encaja en una «clase» que viola las políticas de la plataforma, para detectar y eliminar automáticamente el habla árabe hostil, mientras que no hay ninguna para el hebreo.

Sesgo intencional

Aunque BSR afirma que el sesgo de Meta contra los palestinos es «involuntario», esta caracterización del sesgo pierde la marca sobre cómo la discriminación institucional y estructural y el racismo realmente operan. En otras palabras, el sistema de moderación de contenidos de la empresa es discriminatorio no solo por su aplicación selectiva, sino por su propio diseño.

Tomemos, por ejemplo, las directrices relacionadas con el terrorismo de Meta: la llamada política de «Individuos y Organizaciones Peligrosas», o DIO. Si bien la compañía se niega a declarar públicamente a quién clasifica y prohíbe como «peligroso» o «terrorista», una lista filtrada de 4.000 personas y grupos muestra que ataca desproporcionadamente a las comunidades musulmanas de Oriente Medio y el sur de Asia.

Esto explica en parte por qué, según BSR, «la política DOI de Meta y la lista tienen más probabilidades de afectar a los usuarios palestinos y de habla árabe, tanto en función de la interpretación de Meta de las obligaciones legales como en error».

Mientras que Meta ha doblegado esta regla, entre otras, en el contexto de la invasión rusa de Ucrania, que incluso permite a los ucranianos elogiar libremente al Regimiento Azov neonazi como una fuerza para la autodefensa, nunca se han hecho excepciones sensibles al conflicto para los palestinos, que luchan contra una ocupación militar no menos brutal.

Además, el tratamiento de la compañía de la mayoría global no occidental, donde solo se asignan migajas de inversión y recursos, es en sí mismo un problema estructural que afecta a Palestina. Desde Myanmar hasta Etiopía, Meta trata los idiomas y las comunidades que no son el inglés fuera de los Estados Unidos y Europa como una no prioridad, a pesar de las consecuencias fatales del discurso de odio no moderado y la incitación a la violencia.

Por lo tanto, el doble rasero presenciado en Israel-Palestina está entrelazado con problemas más profundos en el corazón de las prácticas globales del gigante de las redes sociales. Contrariamente a la Política Corporativa de Derechos Humanos de Meta, que se lanzó solo dos meses antes de la crisis de mayo, la compañía ha mostrado constantemente un descarado desprecio por proteger a las comunidades más vulnerables en todas sus plataformas.

Por lo tanto, Meta no está actuando en una dichosa ignorancia. Su rápida respuesta a la invasión rusa de Ucrania demuestra que la compañía puede actuar cuando quiere: cuando hay una voluntad, hay una manera. Y a pesar de la documentación exhaustiva de censura, desinformación, violencia dirigida y discurso de odio contra los palestinos, no ha tomado ninguna acción significativa y seria.

De hecho, las mismas violaciones se repiten una y otra vez. Por ejemplo, tan pronto como estalló la violencia en Jerusalén en abril de 2022, casi un año después de las protestas del jeque Jarrah, Facebook cerró la página del sitio de noticias palestino Al Qastal mientras transmitía en vivo desde la violenta incursión de las fuerzas de ocupación israelíes en la mezquita de Al-Aqsa. Hacer la vista gorda continuamente ante el impacto adverso de sus acciones en una población oprimida, a pesar de la cantidad de evidencia, deja en claro que el sesgo de Meta es realmente intencional.

El resultado del activismo

La respuesta de Meta al informe de BSR ha sido hasta ahora decepcionante. Por un lado, Meta no reconoció públicamente ninguna irregularidad: señaló a pie de página que su declaración «no debe interpretarse como una admisión, acuerdo o aceptación de ninguno de los hallazgos, conclusiones, opiniones o puntos de vista identificados por BSR, ni la implementación de ninguna reforma sugerida debe tomarse como admisión de irregularidades».

Por otro lado, a pesar de reconocer las 21 recomendaciones no vinculantes de BSR para abordar los impactos negativos de sus acciones en los derechos palestinos, Meta no proporcionó un cronograma concreto sobre cuándo tomar medidas. Estas importantes recomendaciones incluyen revisar la política de DIO de la compañía y su designación de figuras históricas fallecidas, crear clasificadores para el contenido en hebreo y proporcionar transparencia a los usuarios sobre sus acciones de cumplimiento, como la limitación de características (shadowbanning). Meta también rechazó una recomendación de BSR que pedía financiar la investigación pública para examinar las obligaciones legales antiterroristas de la compañía frente a sus políticas y acciones actuales.

Es crucial señalar que el encargo del informe por parte de Meta no surgió de pura buena voluntad, sino más bien debido a la persistente campaña pública y privada de activistas palestinos, regionales y globales y grupos de derechos humanos que piden a la compañía que deje de silenciar el discurso sobre Palestina. Ahora que se han publicado los hallazgos, debemos continuar exigiendo que Meta respete los derechos de las personas y lo haga responsable de su censura.

En este punto, Meta no puede evadir la responsabilidad por su moderación sesgada del contenido palestino. Los sistemas no se crean en el vacío; son una suma de decisiones corporativas. No crear clasificadores para el discurso de odio hebreo a pesar de su prevalencia es una decisión. Proteger el discurso pro-sionista mientras se elimina la documentación directa de los abusos de los derechos israelíes es una decisión. Responder a las solicitudes de censura de una potencia ocupante contra su población ocupada es una decisión. Es hora de que Meta decida lo contrario.

* Marwa Fatafta lidera el trabajo de Access Now sobre derechos digitales en la región de Medio Oriente y África del Norte como Gerente de Políticas de MENA. Es miembro de la junta asesora de la organización palestina de derechos digitales 7amleh, y analista de políticas en Al-Shabaka, The Palestinian Policy Network.

Imagen de portada: Palestinos y activistas de izquierda protestan durante la manifestación semanal del viernes en el barrio Sheikh Jarrah, Jerusalén, el 18 de febrero de 2022. | Foto: Oren Ziv / Activestills.