En el informe de la Relatoría Especial sobre la extrema pobreza y los derechos humanos de la ONU, que se presentará hoy, el relator Philip Alston advierte que a las grandes empresas tecnológicas se les permite apuntar y vigilar a los pobres y no están reguladas en las “zonas francas de derechos humanos” ni deben rendir cuentas. Además, dice que se reducen los presupuestos de asistencia social y se imponen nuevas sanciones por incumplimiento a las personas que pueden ser analfabetas digitales o no tienen acceso a internet. En el Reino Unido, 12 millones de personas -o una de cada cinco de la población- no tienen las habilidades digitales esenciales necesarias para la vida cotidiana moderna.
Según advirtió Alston, naciones de todo el mundo están “tropezando como zombis en una distopía de bienestar digital” en la que la inteligencia artificial y otras tecnologías se utilizan para atacar, vigilar y castigar a las personas más pobres.
El relator de la ONU ha producido una descripción devastadora de cómo las nuevas tecnologías digitales están revolucionando la interacción entre los gobiernos y los más vulnerables de la sociedad. En lo que él llama el surgimiento del “estado de bienestar digital”, miles de millones de dólares de dinero público se están invirtiendo en sistemas automatizados que están cambiando radicalmente la naturaleza de la protección social.
El informe dice que la IA tiene el potencial de mejorar dramáticamente la vida de las comunidades desfavorecidas, pero advierte que tal esperanza se está perdiendo en medio del impulso constante por la reducción de costos y la “eficiencia”.
Alston escribe que “las decisiones cruciales para digitalizarse han sido tomadas por ministros del gobierno sin consulta, o incluso por funcionarios departamentales sin que se hayan llevado a cabo discusiones políticas significativas”. Como resultado de la ausencia de responsabilidad, “las tecnologías digitales se emplean en el estado de bienestar para vigilar, atacar, acosar y castigar a los beneficiarios, especialmente a los más pobres y vulnerables entre ellos”.
En su informe, Alston asegura que el estado normal de cosas por el cual los gobiernos deben rendir cuentas a sus ciudadanos se ha puesto patas arriba por la introducción de la toma de decisiones automatizada y la eliminación de la discreción humana de los sistemas de bienestar. “En un mundo así, los ciudadanos se vuelven cada vez más visibles para sus gobiernos, pero no al revés”, dice.
En el informe explica que las grandes empresas tecnológicas actúan como fuerzas en sí mismas y que el advenimiento de la revolución digital ha permitido al sector privado apropiarse de grandes extensiones de estado de bienestar casi sin comentarios públicos.
Señala ejemplos de empresas de todo el mundo involucradas en los sistemas de asistencia social: la subsidiaria de Net 1, Cash Paymaster Services, junto con MasterCard, se involucraron inicialmente en el sistema de distribución de subsidios sociales de Sudáfrica que planteó problemas de privacidad debido a su recolección de datos biométricos. En Australia, Indue y Visa ayudaron a introducir pruebas de tarjetas de débito sin efectivo, e IBM fue central en el sistema multimillonario de Sams en Canadá, Estados Unidos, Alemania y Nueva Zelanda.
“Un puñado de ejecutivos poderosos están reemplazando a gobiernos y legisladores para determinar las direcciones en las que se moverán las sociedades y los valores y suposiciones que impulsarán esos desarrollos”, escribe Alston mientras pide que Silicon Valley se haga responsable a través de la regulación. La autorregulación que se ha permitido en el sector de la gran tecnología, especialmente entre los principales sectores de la economía, debe terminar y las empresas de tecnología deben “exigir legalmente que respeten las normas de derechos humanos aplicables”.
Eso incluye abordar el uso creciente de la coincidencia de datos que se utiliza para castigar y criminalizar a las personas de bajos ingresos. También implica poner bajo control las “opciones de vigilancia cada vez más refinadas que permiten el monitoreo continuo de los beneficiarios”.
Como conclusión, el relator considera que la tecnología digital podría utilizarse como una fuerza para el bien. Podría “garantizar un nivel de vida más alto para los vulnerables y desfavorecidos, idear nuevas formas de cuidar a los que se quedan atrás”.
El profesor Philip Alston es el actual Relator Especial sobre la pobreza extrema y derechos humanos. El Relator Especial es un experto independiente designado por el Consejo de Derechos Humanos para examinar la situación de un país o un asunto concreto de derechos humanos, e informar al respecto. Ejerce el cargo a título honorario y no forma parte del personal de las Naciones Unidas ni percibe un sueldo por el desempeño de su mandato.