Tras sostener la necesidad de una auditoría efectiva del sistema de reconocimiento facial antes de su reimplementación en la esfera pública, presentamos lineamientos técnicos mínimos para llevar adelante el proceso.
Recordemos que la causa fue iniciada por el Observatorio de Derecho Informático de la Argentina (ODIA) a la que luego se sumó el Centro de Estudios Legales y Sociales (CELS) y que fue apoyada como amiga del tribunal por la Fundación Vía Libre. El miércoles 21 de febrero se llevo a cabo una audiencia que resolvió pasar a un cuarto intermedio para definir las condiciones apropiadas para una auditoría por parte de los órganos de contralor.
El sistema de reconocimiento facial fue implementado en la Ciudad de Buenos Aires para la identificación de prófugos en 2019. En un trámite posterior a la instalación del sistema, la legislatura porteña aprobó su uso bajo el control de dos organismos: una comisión ad hoc de legisladores y la Defensoría del Pueblo de la Ciudad. La Justicia dejó en cabeza de la Defensoría del Pueblo la responsabilidad de llevar adelante una auditoría del sistema para evaluar su potencial discriminador, es decir, evaluar los sesgos integrados en el mismo.
Sistemas como estos afectan derechos como a la privacidad, a la libertad de expresión y de reunión, al principio de inocencia y, fundamentalmente, a la igualdad y no discriminación, teniendo en cuenta también los márgenes de error intrínsecos a su funcionamiento.
Sostenemos la importancia de realizar auditorías efectivas sobre un sistema que, tal como afirmó el propio Gobierno en la audiencia, fue comprado como enlatado, sin conocer efectivamente el funcionamiento y esperamos que se tengan en cuenta los lineamientos mínimos ofrecidos para asegurar el mejor proceso de auditoría posible en términos de derechos humanos.
Descargar lineamientos