Mediante un proyecto de ley presentado por legisladores del Frente de Todos en la Ciudad Autónoma de Buenos Aires, la legislatura de la CABA inició un debate para regular la implementación de sistemas de inteligencia artificial y reconocimiento facial en manos del Ministerio de Seguridad de la Ciudada.
El proyecto de referencia es el Expte 1686-D-2020 LEY NEIRA, CLAUDIA [FERREÑO, CLAUDIO AMÉRICO] [MONTENEGRO, VICTORIA] [ROBERTO, SANTIAGO LUIS] MODIFÍCASE LA LEY Nº 5.688, “SISTEMA INTEGRAL DE SEGURIDAD PÚBLICA DE LA C.A.B.A.
Apreciamos la buena voluntad de las y los legisladores firmantes que abren un debate que consideramos indispensable sobre la regulación de este tipo de tecnologías, sin embargo, junto a organizaciones colegas como AccessNow, ADC, CELS y ODIA entendemos que antes de avanzar en esta regulación se debe dar otra discusión todavía más profunda: ¿es aceptable instalar tecnologías de esta naturaleza en la esfera pública?
Esta pregunta no es nueva y no somos los primeros en hacerla. Varios distritos y ciudades se han dado esta discusión en los últimos meses y en muchos casos la respuesta fue un rotunto NO.
En los EEUU, a nivel de Estados Federales y Municipales se han dado diversas legislaciones sobre esta práctica. En el Estado de California, una ley prohibe el uso de cámaras colocadas en chalecos de los oficiales de policía. En varias ciudades se prohibió directamente el uso de sistemas de reconocimiento facial. El puntapié inicial lo do San Francisco, pero la acompañan Alameda, Berkeley y Oakland. A su vez, en el estado de Massachusetts, estas tecnologías fueron directamente prohibidas en Boston, Springfield, Cambridge, Easthampton, Northampton, Brookline y Somerville.
Este debate no tiene lugar sólo a instancia gubernamental. También las empresas se han empezado a plantear la necesidad de establecer límites severos al uso de sistemas tan invasivos para los derechos de las personas. IBM, Amazon y Microsoft, entre otras, anunciaron que dejarían de ofrecer sus productos de reconocimiento facial a la policía y las fuerzas de seguridad.
Desde la Fundación Vía Libre instamos a la Legislatura porteña a dar este debate y ampliar las voces que participen del mismo, a la vez solicitamos que se haga lugar a una posición más firme en relación a estas tecnologías. En la regulación planteada no se pone sobre la mesa de debate el impacto en Derechos Humanos, no se solicita una evaluación de impacto sobre los mismos, ni siquiera se ha cursado el proyecto a la Comisión de Derechos Humanos, Garantías y Antidiscriminación, sede natural de un proyecto de este tipo.
En su última visita a Argentina, el Relator de Naciones Unidas para el derecho a la privacidad de las personas llamó la atención sobre la implementación de estas tecnologías en la Ciudad Autónoma de Buenos Aires. En su documento publicado tras la visita al país, Joseph Cannataci, indicó que
“El 25 de abril de 2019, se activó un sistema de reconocimiento facial en 300 cámaras de vigilancia de la ciudad. El sistema está conectado a la CONARC, la base de datos pública de personas buscadas por la justicia, compuesta por 46.000 archivos. Mis preocupaciones con respecto a la CONARC (ver párrafo 11) también son relevantes aquí. Soy consciente de la necesidad de detener a las personas sospechosas de haber cometido delitos y llevarlas ante la justicia, pero no veo la proporcionalidad de instalar una tecnología con graves implicaciones para la privacidad para buscar en una lista de 46.000 personas que actualmente incluye a menores y delitos no graves y que no se actualice y compruebe cuidadosamente su exactitud.
El hecho de que el reconocimiento facial se esté implementando sin el PIA (en inglés Privacy Impact Assessment) necesario, así como la consulta deseable y las fuertes salvaguardias, también es motivo de preocupación. El Gobierno ha aprobado una reglamentación de bajo nivel en materia de biometría, pero no una legislación detallada sobre el uso del reconocimiento facial: Resolución Nro. 398/MJYSGC/19.”
En este sentido, antes de avanzar con una regulación de este tipo es mandatorio que la legislatura exija la realización de evaluaciones de impacto e invoque el principio precautorio hasta tanto no se corrobore la necesidad y proporcionalidad de la medida adoptada. Recordemos además, que en medio de la situación de pandemia de covid 19, el uso del sistema está suspendido, lo que brinda una oportunidad única para hacer las evaluaciones y exigir los controles esenciales sobre las tecnologías adquiridas o por adquirir.
¿Por qué decimos que es indispensable una moratoria / prohibición de uso de sistemas de reconocimiento facial?
Porque son sistemas que impactan directamente sobre los Derechos Humanos de toda la ciudadanía, incluyendo aspectos centrales como el derecho a la privacidad, el debido proceso, la presunción de inocencia, la libre circulación y la libertad de reunión en el espacio público.
Porque nunca en democracia se había instalado un sistema tan invasivo de los derechos de libre circulación en la esfera pública.
Porque estos sistemas registran, analizan y evalúan según la fisonomía de las personas, con un retroceso notable en materia de discriminación.
Porque no hay evidencia de que estos sistemas cumplan con los objetivos previstos ni información clara sobre su utilización de los mismos en la C.A.B.A.
Porque la conformación de bases de datos biométricas supone la vulneración de derechos fundamentales en materia de protección de datos sensibles de la ciudadanía y la dinámica de implementación impide a las personas tener conocimiento acabado sobre la recolección, procesamiento, uso y eventual destrucción de los datos recolectados en la esfera pública.
Porque en diversos lugares del mundo estas tecnologías en poder de las fuerzas de seguridad están siendo cuestionadas, en particular por los marcados antecedentes de vigilancia desproporcionada en la esfera pública y discriminación de todo tipo, pero muy especialmente racial y de clase.
Entendemos que regular es mejor que implementar sin controles, tal como se hizo en el pasado en CABA. Sin embargo, antes que regular, es indispensable una política de control estricto y protección de la ciudadanía. En esta instancia y bajo estas condiciones es menester decir que NO al sistema de reconocimiento facial #ConMiCaraNo.
¿Cómo seguir la discusión? En Redes Sociales Hashtag #ConMiCaraNo @LegisCABA
Hoy, Jueves 17 de Septiembre, desde las 14hs. Reunión de la Comisión de Seguridad de CABA. Transmite por sus canales en línea.
Compartimos nuestra presentación en la Reunión de Comisión de Seguridad.