SOMOSMASS99
Ameera Kawash / +972 Magazine
Miércoles 3 de mayo de 2023
Tras un importante informe, el asesor de Amnistía Matt Mahmoudi explica cómo la tecnología de reconocimiento facial está reforzando el control de Israel sobre los palestinos.
Amnistía Internacional publicó un nuevo informe el martes titulado «Apartheid automatizado», un seguimiento de su informe explosivo en 2022, que encontró que el trato de Israel a los palestinos equivale al crimen de apartheid según el derecho internacional. Basándose en su análisis legal anterior, la última publicación expone cómo las autoridades israelíes utilizan la tecnología y las herramientas de vigilancia para intensificar y afianzar un sistema de control sobre los palestinos o, en palabras de la secretaria general de Amnistía, Agnès Callamard, «para sobrecargar la segregación y automatizar el apartheid».
El informe de 80 páginas se centra en particular en el uso de tecnologías de reconocimiento facial y redes de cámaras de CCTV en Hebrón y Jerusalén Este, las únicas dos ciudades en los territorios ocupados donde existen asentamientos israelíes dentro de las zonas urbanas palestinas, y que están experimentando una continua expansión de los asentamientos y tomas de propiedades. El informe incluye descripciones de palestinos en Hebrón que se encuentran con un nuevo sistema impulsado por IA llamado «Lobo Rojo», desplegado en los puestos de control israelíes, que escanea los rostros de los palestinos y determina si pueden pasar un puesto de control o se les puede negar la entrada. También cubre áreas en Jerusalén Este que han visto una intensificación de las redes de vigilancia en los últimos años, incluido el barrio de Sheikh Jarrah, la Puerta de Damasco en la Ciudad Vieja y el complejo alrededor de la Mezquita Al-Aqsa.
La principal organización de derechos humanos adopta una posición inequívoca contra el uso de estas tecnologías de reconocimiento facial, que ubica dentro de una red más amplia de vigilancia masiva en todos los territorios ocupados. Tales métodos, argumenta Amnistía, restringen la libertad de movimiento de los palestinos, intentan fragmentar y controlar a la población, y crean un «ambiente coercitivo … que rutinariamente hacen que la vida [palestina] sea insoportable, [y] que tiene como objetivo obligar a los palestinos a abandonar las áreas de interés estratégico a las autoridades israelíes». El llamado del grupo a Israel para que «cese inmediatamente» el despliegue de estos sistemas de vigilancia, como dice el informe, se encuentra dentro de los esfuerzos más amplios de Amnistía para «desmantelar el sistema de opresión y dominación del estado israelí contra los palestinos».
En una entrevista para +972 antes de la publicación del informe, hablé con el doctor Matt Mahmoudi, investigador y asesor sobre inteligencia artificial y derechos humanos de Amnistía, sobre las conclusiones y las implicaciones del innovador informe. La entrevista ha sido editada por su longitud y claridad.
– ¿Puede describir la investigación y sus conclusiones?
El informe es un resultado conjunto que viene a raíz de la campaña «Ban the Scan» de Amnistía, así como de nuestra campaña para poner fin al apartheid de Israel contra los palestinos. Estábamos específicamente interesados en observar las formas en que se había implementado el reconocimiento facial en Hebrón y Jerusalén Este. Inicialmente implicó identificar parte del hardware que se desplegó en estas áreas por medio de imágenes, que fueron tomadas por colegas u organizaciones asociadas, especialmente [en] los caminos frecuentados regularmente por los palestinos. En el contexto de Hebrón, observamos la infraestructura de cámaras en y alrededor de los puntos de control en H2 [la parte de la ciudad bajo control militar israelí total], una vez que tuvimos una idea del hardware en su lugar y algunos de los actores corporativos que podrían estar desempeñando un papel allí.
Dr. Matt Mahmoudi, investigador y asesor de Amnistía Internacional – Tech. | Foto: +972 Magazine.
Trabajamos junto con organizaciones locales y nuestro equipo para hacer entrevistas de campo con familias palestinas, activistas, estudiantes y expertos que estaban documentando, siendo expuestos y enfrentándose cara a cara con el uso de sistemas de vigilancia, en particular el reconocimiento facial. Esto, así como organizaciones de la sociedad civil israelí como Breaking the Silence, que ampliaron el acceso a testimonios clave de soldados anteriores y actuales, que hablaron sobre algunas de las tecnologías de las que estábamos escuchando a través de nuestros testimonios de testigos.
– ¿Tuvo acceso al software que está siendo desplegado por las fuerzas de seguridad israelíes, como «Blue Wolf» [un programa de vigilancia similar anterior en Hebrón]? ¿Hay nuevas tecnologías que descubriste?
En Hebrón nos centramos especialmente en algunas de las tecnologías de «ciudad inteligente» que se han implementado en los últimos años, como Blue Wolf, pero también en la «Iniciativa de ciudad inteligente» general. Si bien estábamos interesados en que algunos de los actores corporativos y el software se vendieran en el estante, no había nada que documentara los sistemas con los que las comunidades [palestinas] estaban hablando. Lo que nos quedó fue la implicación de que la mayor parte del software que estábamos viendo estaba siendo potencialmente desarrollado internamente por las fuerzas de seguridad israelíes.
No pudimos interrogar el software de cerca por razones de acceso o seguridad. Pudimos hablar con los palestinos a través de los puestos de control en los que se está desplegando este [nuevo] software de reconocimiento facial llamado Red Wolf. Nos dimos cuenta de ello debido a cómo [los palestinos] estaban hablando de ser identificados por soldados que no conocían, preventivamente y sin presentar ninguna identificación. Luego nos encontramos con este testimonio de Breaking the Silence que hablaba del sistema de reconocimiento facial que se estaba implementando en estos puntos de control.
Los soldados también hablan extensamente sobre cómo el sistema está entrenado para reconocer caras si aún no te reconoce. La implicación aquí es que el sistema funciona o es muy probable que funcione junto con sistemas anteriores que se han desplegado en el área, como Blue Wolf, y que en realidad la base de datos que fue curada por Blue Wolf, que arroja información sobre los palestinos, solo es potencialmente accesible a través del sistema Red Wolf también.
Entonces, si se sabe, por ejemplo, que ha sido programado para ser interrogado o detenido, lo detendrán en el puesto de control una vez que sea reconocido y retenido. O por el contrario, si no eres reconocido, por no haber sido registrado previamente, entonces el punto de control no te dejaría pasar. Habría tomado una foto [de ti] en el momento en que caminaste por el torniquete, y luego se incentiva al soldado a tomar tu identificación y compararla con la foto que se tomó de tal manera que en el futuro, el sistema pueda aprender a reconocerte con el tiempo.
Una cámara de seguridad vista con vistas a la ciudad cisjordana de Hebrón, 15 de enero de 2013. | Foto: Nati Shohat / Flash90.
– ¿Puedes explicar brevemente la diferencia entre Red Wolf y Blue Wolf? ¿Cómo trabajan juntos?
Blue Wolf es una aplicación, accesible en teléfonos y tabletas, que brinda a los soldados israelíes acceso instantáneo a la información recopilada sobre los palestinos y almacenada en la base de datos Wolf Pack. También se utiliza para realizar un registro biométrico masivo de palestinos en Hebrón; Los soldados escanean rostros con sus dispositivos móviles y los agregan sin el conocimiento y consentimiento de los individuos a una base de datos de perfiles exclusivamente palestinos.
Red Wolf es un sistema de reconocimiento facial que opera en los puntos de control en el área H2 de Hebrón. Sólo los palestinos tienen que utilizar estos puestos de control. Las cámaras de Red Wolf escanean rostros cuando entran en un puesto de control y los evalúan contra una base de datos de perfiles biométricos exclusivamente palestinos. Red Wolf utiliza estos datos para determinar si un individuo puede pasar un punto de control e inscribe automáticamente cualquier cara nueva que escanee. Si no existe entrada para un individuo, se le negará el paso.
Red Wolf amplía su base de datos de rostros palestinos a lo largo del tiempo. Un comandante israelí estacionado en Hebrón, por ejemplo, explicó que los soldados tienen la tarea de entrenar y optimizar el algoritmo de reconocimiento facial de Red Wolf para que pueda comenzar a reconocer rostros sin intervención humana.
Determinamos que existe una alta probabilidad de que Red Wolf esté conectado a Blue Wolf y Wolf Pack. Esto se debe a que estas otras bases de datos más grandes parecen ser las principales fuentes de imágenes e información actualizadas sobre los palestinos disponibles para las autoridades israelíes, y porque Red Wolf parece obtener información similar.
– Lo que está describiendo suena como una intensificación de la ocupación automatizada, «sin fricción» e inteligente con el despliegue de Red Wolf en estos puntos de control.
Precisamente. Excepto que no es sin fricción, ¿verdad? Hay dos cosas en juego aquí. En primer lugar, la noción de ocupación es que es temporal, no permanente: los puestos de control se han vuelto cada vez más permanentes con personal permanente, infraestructura más militarizada y ahora con reconocimiento facial. El segundo punto es el hecho de que, en estas circunstancias tan marginales, los palestinos han confiado en que el soldado los conozca o en que los soldados no estén interesados en ellos para poder pasar por el puesto de control. Ahora tienen que confiar en el reconocimiento real o en su propia voluntad de ser reclutados coercitivamente en este sistema de reconocimiento facial para aprobar. Así que en realidad, está exacerbando la fricción.
Los palestinos se abren paso a través de un puesto de control israelí para asistir a las oraciones del último viernes de Ramadán en la mezquita Al-Aqsa de Jerusalén, en Belén, en Cisjordania, el 14 de abril de 2023. | Foto: Wisam Hashlamoun / Flash90.
– El informe de Amnistía de 2022 encontró al gobierno israelí culpable del crimen internacional de apartheid, y ahora este informe se centra en las tecnologías de reconocimiento facial y el «apartheid automatizado». ¿Cómo se relacionan esos dos informes con la intensificación del apartheid?
En nuestro primer informe, nos centramos en uno de los arsenales de herramientas a través de las cuales Israel logra [el apartheid] en los territorios ocupados. Examinamos las formas en que se restringe la libertad de circulación en particular, tanto en virtud del pacto internacional de derechos políticos civiles como de la convención internacional sobre el apartheid.
Las formas en que el reconocimiento facial refuerza esas restricciones de movimiento, al dificultar aún más que los palestinos pasen el puesto de control, es una forma en que vemos que ese pilar particular del apartheid se exacerba y refuerza. El otro aspecto, por supuesto, es que el puesto de control solo es utilizado por palestinos, y el software de reconocimiento facial se conecta a bases de datos que consisten solo en rostros palestinos. Hay una naturaleza discriminatoria que está en línea con la forma en que entendemos las formas en que se impone el apartheid contra un grupo racial en particular.
El otro aspecto de nuestro argumento sobre cómo esto refuerza el apartheid es la forma en que la vigilancia es parte integrante del entorno coercitivo que están experimentando los palestinos, en particular para obligarlos a salir de áreas de interés estratégico para las autoridades israelíes. Por ejemplo, en lugares como Jerusalén Este, tras la represión de Sheikh Jarrah y las protestas contra los desalojos [por parte de los colonos]; el aumento de la vigilancia en lugares como la Puerta de Damasco; y lugares de importancia religiosa para palestinos y musulmanes, como la mezquita de Al-Aqsa. También prestamos atención a cómo aumentó la vigilancia en áreas como Silwan, donde hemos visto solo en los últimos 10 años el aumento vertiginoso del número de demoliciones con colonos ilegales que llegan, creando asentamientos bajo los auspicios del avance de un proyecto de arqueología bíblica llamado la «Ciudad de David».
Lo que hemos visto es que, junto con esas actividades ilegales de los colonos, las autoridades israelíes también han aumentado el equipo de vigilancia. Varias cámaras de vigilancia que hemos identificado [tienen] algunas capacidades de reconocimiento facial listas para usar, muchas de las cuales creemos que corren un alto riesgo de conectarse al sistema de reconocimiento facial «Mabat 2000» que está activo en Jerusalén Este.
Lo que eso hace es crear este ambiente coercitivo en el que, si los palestinos intentan siquiera pensar en resistir esos desarrollos [de colonos], tienen que calcular un riesgo aún mayor de ser potencialmente arrestados, expulsados, etc. Por lo tanto, la vigilancia en torno a esta actividad ilegal de los colonos engendra vigilancia, que luego engendra más actividad de los colonos.
Oficiales de la Policía Fronteriza israelí vigilan cerca de una casa judía en el vecindario de Sheikh Jarrah en Jerusalén Este, 22 de junio de 2021. | Foto: Jamal Awad / Flash90.
Está claro que existe un ángulo discriminatorio sobre cómo se aplica la vigilancia. Tenemos ejemplos tanto en Hebrón como en Jerusalén Este, pero especialmente en Hebrón, donde activistas y familias han informado que las cámaras se vuelven hacia sus hogares para desincentivar cualquier forma de reunión o congregación o vida familiar. Por lo tanto, entre los testimonios de nuestro informe hay ciertamente la sensación de que los palestinos estaban siendo tratados como una base militar, en la que los palestinos debían mantenerse lo más callados posible. De nuestros informes anteriores sobre el apartheid y en otros lugares, hemos afirmado que las experiencias de los palestinos en Hebrón y los ocupados son una forma de castigo colectivo.
Lejos de ejercer un argumento legítimo de seguridad, la continua expansión de la vigilancia en Jerusalén Este, una ciudad anexionada ilegalmente, por parte de Israel viola aún más los derechos humanos de los palestinos, y de esta manera facilita la expansión de los asentamientos ilegales a través de la consolidación digital de su dominio de control. Esta vasta expansión de la vigilancia es ilegítima y se ve especialmente exacerbada debido a la incompatibilidad de las tecnologías desplegadas con el derecho y las normas internacionales de derechos humanos.
– Amnistía Internacional habla de desmantelar el sistema del apartheid, y eso incluye sistemas y actitudes discriminatorias, pero también este elemento de hardware físico real.
Absolutamente. Hemos visto algo de eso en nuestra documentación en lo que respecta a la resistencia, como resistir la infraestructura [de vigilancia] en sí, porque es una representación del supuesto argumento de seguridad de Israel en áreas como Hebrón y Jerusalén Este, donde [en realidad] no tienen ningún argumento de seguridad porque está en un contexto de anexión [ilegal]. El único argumento de seguridad que tienen es proporcionar seguridad para que los colonos ilegales se muden de la zona, por así decirlo.
La infraestructura se convierte en gran medida en una manifestación material del apartheid de una manera que abre la posibilidad de resistencia, pero cierra la resistencia de una manera que crea riesgos adicionales. Esto es especialmente cuando se trata del cálculo de querer participar en la resistencia y las protestas, y luego tener que volver a meterse porque temes ser identificado.
– El informe de Amnistía de 2022 condujo a una aplicación más generalizada del término «apartheid» a nivel mundial, aunque, por supuesto, los palestinos habían estado diciendo esto durante años. ¿Cuál espera que sea el impacto del «apartheid automatizado» y cómo se puede utilizar para presionar al gobierno israelí para que desmantele el apartheid?
Si bien la creciente adopción y el uso global del marco del apartheid ha proporcionado una lengua vernácula para responsabilizar a Israel por sus crímenes contra los palestinos, este informe sirve para demostrar una de las herramientas que despliega para imponer sus políticas de apartheid. Al comprender cómo la tecnología juega un papel cada vez más importante para permitir la escalada de la violencia, también comenzamos a darnos cuenta de que no hay nada fundamentalmente inevitable en el desarrollo, las ventas y el despliegue de estas herramientas.
La presión sobre el gobierno israelí es una cosa, aunque tal vez arrojando luz sobre las formas en que los actores corporativos también trabajan cerca del apartheid, podemos ayudar a desarrollar la sensación de que estas ventas son repugnantes. El reconocimiento facial no solo depende de la vigilancia activa de un número cada vez mayor de comunidades racializadas, sino que ayuda a reforzar el apartheid. Esto no puede sostenerse.
Una copia del informe de Amnistía Internacional de 2022 que acusa a Israel de cometer el crimen de apartheid contra los palestinos, lanzado en Jerusalén el 1 de febrero de 2022. | Foto: Oren Ziv / +972 Magazine.
Debo mencionar que dos compañías que identificamos dentro de la Ciudad Vieja de Jerusalén y en el H1 de Hebrón fueron HikVision, un desarrollador de vigilancia chino, así como TKH Security, una compañía de seguridad holandesa. Parecen, especialmente HikVision, tener una presencia creciente en el área. Nos hemos comunicado con ellos en varias ocasiones y aún no hemos recibido respuestas concluyentes de ninguno de ellos. TKH Security respondió con unas pocas líneas diciendo que, desde hace unos años, ya no tienen una relación con el distribuidor que identificamos. También dijeron que no tienen una relación directa con las fuerzas de seguridad israelíes, pero no han explicado por qué terminó la relación con el distribuidor, o cómo sus productos han terminado en el área. HikVision simplemente no ha respondido.
Seamos claros que solo en el último año, el marco del apartheid tal como se aplica a Palestina ha sido más ampliamente aceptado. Tenemos dos Relatores Especiales que han utilizado el lenguaje para hablar de las experiencias particulares de los palestinos. Creo que al llamar también la atención sobre cómo algunas de las medidas tecnológicas y de seguridad en ese frente, específicamente las aplicaciones de IA, se están utilizando para exacerbar el apartheid, también pueden ayudarnos a comprender completamente la realidad vivida bajo el apartheid en un sentido más amplio.
Mi mayor esperanza es que la gente preste más atención a las condiciones del apartheid y se indigne por lo que está sucediendo en estos contextos. Esto es sólo una pequeña parte de las experiencias en el informe. No me atrevería a pensar en cómo sería la suma total del área si aplicáramos este análisis de manera más amplia.
Imagen de portada: Una cámara de seguridad se ve dentro de la Ciudad Vieja de Jerusalén, 14 de octubre de 2022. | Foto: Anne Paq / ActiveStills.
0 Comentario