Esta artículo fue publicado en la colección: “Towards AI Literacy: 101+ Creative and Critical Practices, Perspectives and Purposes”((Abegglen, S., Nerantzi, C., Martínez-Arboleda, A., Karatsiori, M., Atenas, J., & Rowell, C. (2024). Hacia la alfabetización en IA: más de 101 prácticas, perspectivas y propósitos creativos y críticos. #creativoHE)). La colección presenta prácticas, perspectivas y propósitos creativos y críticos de educadores, investigadores y estudiantes sobre la IA en la educación. La versión original está en inglés y se puede leer en el siguiente enlace.
A continuación compartimos el artículo realizado por Luciana Benotti y Nair Carolina Mazzeo en versión español.
Los errores de la IA Generativa son distintos a los errores humanos
La IA generativa ocupa un rol muy activo en la sociedad, cada vez más es usada en rutinas profesionales y personales. Y continúa revolucionando varios sectores con sus distintos tipos de usos. Es imperante tomar conciencia de los errores que tienen estas tecnologías, comprender que se pueden equivocar y ¡que lo hacen! En particular es primordial saber cuáles son los sesgos sociales que están embebidos en estos modelos, para no seguir replicando y perpetuando estereotipos que puedan aún más estigmatizar a los sectores más vulnerables.
Una persona puede generar información falsa o mentir, la IA en sí misma, no tiene una intención por detrás. Estos modelos aprenden, entre otras cosas, reconociendo qué palabras o píxeles aparecen en contextos similares, de forma repetitiva y pueden llegar a tener el mismo significado. Sin embargo, el sistema puede alucinar cuando, por ejemplo, utilizan sinónimos de palabras que no lo son. Para el ser humano, los nombres propios no son sinónimos, ‘Juan’ y ‘Pedro’ se refiere a distintas personas. Sin embargo, este tipo de inteligencias artificiales pueden considerar que son similares, y por lo tanto otorgarles el mismo significado. Pudiendo causar estragos por un desacierto de aprendizaje. Concientizar de sus errores y sus implicancias éticas asociadas a la generación de contenido, es el comienzo para una alfabetización verdadera.
Desde el equipo de ética de la Fundación Vía Libre venimos inmersos en la investigación de estas fallas, así como en la educación y difusión acerca de esta problemática en modelos de IA generativa. Actualmente estamos planificando una formación para docentes en actividad*, que luego puedan trasladar el contenido a sus aulas. Destinado especialmente a docentes con formación en Educación Sexual Integral (ESI), método implementado y legislado en el sistema educativo de Argentina. Su formación brinda además, conocimientos sobre diversos sesgos sociales, fenómenos como el bullying, el trolling, el ciberacoso o la cultura de la cancelación. Son docentes que vienen con una sensibilización en estas problemáticas y en su repercusión tanto en el aula, como en las redes sociales. Desde el equipo, para acompañar estos procesos, desarrollamos una herramienta que se llama ‘EDIA’, Estereotipos y Discriminación en Inteligencia Artificial. Un instrumento que permite, por ejemplo, comparar oraciones y evaluar si existen sesgos en estos sistemas, interactuando con distintos modelos de lenguaje previamente cargados en la plataforma.
La mayoría de los modelos de IA se alinean con hablantes nativos de inglés con procedencia del hemisferio Norte. En particular este dispositivo que creamos, está pensado desde una perspectiva latinoamericana, diseñado e implementado en español. Si bien existen herramientas similares en inglés, el español tiene sus diferencias lingüísticas estructurales, por ejemplo, en el género. Por lo tanto, este enfoque específico busca evitar la perpetuación de sesgos lingüísticos y culturales arraigados también por su lugar de procedencia e idioma.
Links de interés
– Un video explicativo de la herramienta EDIA: https://youtu.be/ZLV1ex2S6YI
– Herramienta EDIA: https://ediatool.ddns.net
– Repercusiones del uso de EDIA por adolescentes en un taller realizado en Khipu. https://www.vialibre.org.ar/menstruacion-salud-y-sexualidad-representaciones-desde-la-inteligencia-artificial/
* Este artículo salió previo al inicio de la formación docente, que inició el primero de junio del 2024, podes ver más en el siguiente enlace.