La inteligencia que no piensa

Esta nota fue publicada en el Suplemento Las 12 del Diario Página 12 el viernes 20 de abril de 2018

Por Irina Sternik

SALUD | El gobernador de Salta, Juan Manuel Urtubey, anunció que implementará un plan piloto que, a través de un programa de inteligencia artificial creado por Microsoft, podrá predecir qué niñas serán madres adolescentes en el futuro, o se van a embarazar, y en base a eso aplicar políticas públicas para prevenirlo. Un embate para controlar a los sectores más vulnerables y evitar aplicar la ley de Educación Sexual Integral, en una de las provincias más pobres y conservadoras del país.

El 10 de abril, en pleno debate por la despenalización del aborto en el Congreso, el gobernador de Salta Juan Manuel Urtubey, explicó en el programa “El Diario de Mariana” en Canal 13, en qué consistía el plan piloto del Ministerio de la Primera Infancia de Salta: “Con la tecnología vos podés prever cinco o seis años antes, con nombre, apellido y domicilio, cuál es la niña, futura adolescente, que está en un 86 por ciento predestinada a tener un embarazo adolescente”. Black Mirror es un poroto al lado de la propuesta de Urtubey. En primer lugar, porque la serie de Netflix se basa en premisas posibles y en segundo lugar, porque es ficción. Lo que dijo Urtubey en “El Diario de Mariana” es una falacia. O, en palabras de la socióloga Dora Barrancos, una alucinación: “No creo que sea cercano a la seriedad considerar el cálculo prodigioso del gobernador Urtubey. Me hace recordar a las cuestiones que planteaba Santo Tomás cuando decía que la animación del feto masculino se daba mucho antes que la del femenino, siglo XIII, vaya a saber por qué procedimientos de adivinación se llegaba a establecer el sexo del feto. Eso es prestidigitación y no tiene respaldo de rigor”.

A partir de las declaraciones estallaron las repercusiones, primero en las redes, y luego en los claustros. Fue allí que se viralizó el plan piloto en sociedad; presentado como un caso de estudio en conjunto con el Ministerio de Primera Infancia de Salta, Facundo Davancens, empleado de Microsoft, detalla cómo hicieron para “detectar jóvenes adolescentes en riesgo de quedar embarazadas usando técnicas de learning machine”.

El archivo, disponible aún hoy en internet, cuenta cómo a partir de una base de datos de 200.000 residentes de Salta con más de 12.000 mujeres entre 10 y 19 años crearon modelos predictivos, a partir de los siguientes datos: edad, barrio, etnia, país de origen, presencia o ausencia de discapacidad, agua caliente en el baño y si el jefe de hogar abandonó estudios para aplicar cálculos y determinar si las chicas están o estuvieron embarazadas. Preguntas basadas en sesgos que no incluyen ítems sobre métodos anticonceptivos o sobre Educación Sexual Integral.

La gravedad del documento y los dichos de Urtubey llevaron al Laboratorio de Inteligencia Artificial Aplicada (LIAA) de la UBA a analizar el caso de estudio mencionado y llegaron a la conclusión de que la propuesta tiene problemas metodológicos y datos pocos confiables que plantean el riesgo de tomar medidas incorrectas a los responsables de políticas públicas. El informe indica que los datos están sesgados y que es un tema sensible, confidencial y de difícil acceso y “tienen el riesgo de incluir más embarazos adolescentes en ciertos sectores de la sociedad que otros”.

Luciana Ferrer, investigadora de LIAA, explica a Las12 que cometieron un error técnico: “Lo que los llevó a hacer algo así como trampa en un examen pero creemos que fue sin darse cuenta. Evaluaron el modelo de predicción en datos que ya habían usado para aprender. Es equivalente memorizarse las respuestas previamente. Cuantas más hayas aprendido, mejor te va a ir, pero eso no implica que hayas aprendido mucho sobre el tema”. El segundo error es que, con los datos que tienen, no están prediciendo embarazos a futuro, si no los ocurridos en el pasado o actualmente en curso: “Finalmente, está el problema del sesgo en los datos. Se está asumiendo que las encuestadas declararon la verdad sobre si habían estado embarazadas o estaban embarazadas en ese momento. En un tema tan delicado como el embarazo adolescente, sería cauteloso asumir que muchas adolescentes mintieron, sobre todo si abortaron. Esto implica que, al usar estos datos, estaremos aprendiendo información sesgada, influenciada por factores como cuáles sectores de la población tienen más facilidades para abortar o en qué sectores es más tabú quedar embarazada en la adolescencia y por lo tanto es algo que la adolescente escondería”, aclara Ferrer.

Desde Salta no emitieron ningún comunicado. En diálogo con Las12, el Coordinador de Tecnología del Ministerio de la Primera Infancia, Pablo Abeleira, indicó que “es entendible el informe de la UBA” porque se basa en un informe realizado por Microsoft: “Nosotros no nos quedamos con ese modelo y seguimos con consultas con ellos, lo fuimos mejorando y lo seguimos entrenando con datos nuevos”. Sin embargo, esta información no está publicada: “Hay un montón de suposiciones porque no difundimos esta plataforma ni la mostramos” afirman y dicen que hace nueve años vienen trabajando en este modelo, primero en primera infancia y ahora con el embarazo adolescente.

Si bien Microsoft asegura que los datos de su sistema “no contienen información personal identificable sobre las personas, tal como reconoce habeas data”, Abeleira indica que los relevamientos que realizan casa por casa son geoposicionados “tienen nombre y apellido porque firman un consentimiento, pero toda la información es confidencial y está codificada. Nunca se puede saber de qué persona se está hablando”. La información está alojada en la nube de Microsoft con certificación internacional con jurisdicción en la Argentina, como indica la ley de Protección de Datos Personales: “Los datos de niños, niñas y adolescentes consultados pertenecen a poblaciones que tienen resguardos en la ley por su pertenencia a un grupo vulnerable que tiene que tener protecciones especiales. La ley 25.326 regula con mayor severidad la manipulación de datos sensibles, como la salud reproductiva de las niñas, la pertenencia o no a una etnia. Los datos sensibles que se manejan en esta base de datos tienen que ser estrictamente custodiados, no puede haber transferencia transfronteriza de datos a jurisdicciones con menores protecciones de datos que tiene la argentina, como Estados Unidos” explica Beatriz Busaniche, presidenta de la Fundación Vía Libre.

El programa para prevenir el embarazo adolescente es una iniciativa del Gobierno de Salta en colaboración con el Fondo de las Naciones Unidas para la infancia (Unicef), Microsoft, Techo para mi País y Conin, cuyo titular, Abel Albino, se opone públicamente al aborto, al sexo, a la masturbación y quien hace 38 años pertenece al Opus Dei. Para Albino, el único método anticonceptivo viable es “cerrar las piernas”.

Salta tiene récords: un 33,2 por ciento de la población está en la pobreza y un 6,7 por ciento en la indigencia; su tasa de mortalidad materna escala a 8,1 fallecimientos cada 10.000 nacimientos y un 2,85 por ciento de las madres son menores de 14 años. El problema, entonces, está en “la falta de acceso a una educación sexual temprana e integral, las relaciones desiguales de poder entre los géneros, la falta de servicios de salud amigables, la imposibilidad de acceder a la interrupción legal del embarazo cuando así lo hubieran solicitado y la situación de pobreza en la que generalmente viven exponen a estas niñas y adolescentes a un embarazo infantil forzado y a una maternidad temprana no buscada”, según indica el informe de UNICEF “Embarazo y Maternidad en Adolescentes y Menores de 15 años.”. Hasta hace pocos meses, Salta era también la única provincia argentina que impartía educación religiosa en las escuelas públicas y privadas y no Educación Sexual Integral a pesar de lo que indica la Ley implementada hace once años. Nada que la inteligencia artificial pueda remediar.

TrackBack URL

Deja un comentario

You can use these tags: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>