Un algoritmo que aprendió a asociar imágenes de artefactos domésticos con dama y otro que cuando es consultado por individuo destacadas o idóneas para ciertas profesiones solamente ofrece el perfil de varones: dos ejemplos que ayudan a pensar tal se reproduce la discriminación por razones de variedad en los antecedente -colectivo e históricos- con los que se entrena la imaginación ficticio (IA), cuyos impactos en la subsistencia de dama y LGBTIQ+ son abordados por especialistas en diálogo con Télam.
El problema es que, si nunca hubo -o no se reconoce- la participación de dama y LGBTIQ+ en determinados ámbitos de la subsistencia y, por ende, no existen antecedente que den cuenta de eso, probablemente la IA reproducirá por defecto este tipo de disparidades.
Se logra a través de las técnicas de aprendizaje automático, o machine learning, con las que se entrena a la IA para que pueda emular comportamientos o generar predicciones o recomendaciones a dividir de una gran cantidad de antecedente y con diversos grados de autonomía.
Que la IA habitar cada vez más presente en la subsistencia cotidiana no es algo nuevo, aunque sí su capacidad de dar respuestas a demandas cada vez más complejas como generar textos académicos, imágenes o producciones artísticas casi indistinguibles de las que podría producir una persona humana.

No es extraño, entonces, que ante la consulta a un chatbot por el nombre de individuo destacadas de la filosofía, por ejemplo, la respuesta sea un listado solamente de hombres, dado que “estadísticamente las dama filósofas están subrepresentadas en los antecedente de entrenamiento”, ejemplificó.
Esto ocurre porque «se suele pensar a los antecedente como algo objetivo, olvidando que son el producto de relaciones colectivo subjetivas y asimétricas”, explicó Victoria Dumas, directora del equipo de Ciencia de antecedente e imaginación ficticio de la Fundación Sadosky.
Esto es particularmente problemático por el creciente uso de estas respuestas «inteligentes» en distintos ámbitos, incluso educativos y laborales.
En diálogo con Télam, enfatizó en la necesaria «formación y sensibilización en sesgos (de variedad, de clase, de raza) para las individuo que están a cargo de diseñar y programar los algoritmos de IA», en tanto que solo podrán desarrollar sistemas que no discriminen «si son capaces de identificar y dominar sus propios sesgos inconscientes”.

Tiempo atrás, la empresa Amazon tuvo que retirar un software de reclutamiento de individuo trabajadoras que discriminaba a las dama de sus ofertas en puestos técnicos, al haber sido entrenada con “los perfiles de solicitantes de (esos) empleos en los últimos años, que en su mayoría eran hombres”.
Operando inadvertidamente, estos sistemas se usan “para tomar decisiones que afectan directamente a las individuo”, por ejemplo para determinar a quiénes entregar préstamos, atención médica o social, o incluso para medir una pena judicial o el riesgo de reincidencia, indicó.
“Los modelos de IA conocen tal somos y tal fuimos como sociedad, pero no saben hacia dónde queremos ir, y en esto habitar la clave donde es necesario que accionemos”, apuntó la experta.
Por su parte, la cofundadora y directora del Observatorio de antecedente «DataGénero», Ivana Feldfeber, aseguró que una de las “grandes preocupaciones” en la materia es que cada vez más gobiernos “implementan algoritmos de IA que inciden en nuestras vidas y no sabemos nada al respecto”.

“Además de lo estigmatizante que es la propuesta, que solamente recopila antecedente de niñas pero no de las individuo que las dejan embarazadas, la pregunta es qué se hace después con esos antecedente que refieren a una problemática tan compleja”, cuestionó Feldfeber, quien enfatizó en que estos proyectos “lo único que buscan es marcar” grupos colectivo mediante la IA.
El proyecto “Not my AI” (“No mi IA”, en español), desarrolló un mapa de «proyectos problemáticos” que usan IA en Latinoamérica, y Argentina registró al menos tres, dos de ellos relacionados a la video vigilancia.
Pese a las complejidades que presenta, las especialistas destacaron las oportunidades que puede brindar la IA, abordada desde una perspectiva de variedad, en las luchas de dama y LGBTIQ+.
También se encuentra la Plataforma Tecnológica de Intervención Social, un programa que el gobierno de Salta y la mega empresa Microsoft impulsaron en 2018 y que aspiraba a poder predecir el embarazo adolescente mediante imaginación ficticio.

También lo es AymurAI, un programa para computadora basado en IA, que tiene como objetivo ayudar a los poderes judiciales a recolectar y disponer antecedente anonimizados sobre la constreñimiento de variedad, desarrollado por DataGénero junto a colegas mexicanas y suecas.
Ejemplos de esto son los chatbots diseñados para la recepción de denuncias por constreñimiento de variedad para agilizar los tiempos judiciales, o Themis, un corrector de textos que advierte sobre las palabras sexistas y propone alternativas inclusivas.
En casos de constreñimiento de variedad, esto se traduce en “bajos niveles de denuncia, desconfianza en el sistema de justicia y menor acceso” a la misma, aseguró.
Consultada por Télam, Yasmín Quiroga, abogada e integrante del observatorio, explicó que la iniciativa surgió a dividir de la carencia de antecedente unificados sobre constreñimiento de variedad en el país y, a su vez, el bajo nivel de confianza en el poder judicial argentino, que la última encuesta de Latinobarómetro ubicó en un 16%.

Son una evidencia concreta, más allá de que no son objetivos”, indicó Quiroga.
“Los antecedente tienen una capacidad transformadora porque permiten conocer la realidad de las individuo.
En ese marco, AymurAI fue pensada como una forma de agilizar la recolección de antecedente sobre la constreñimiento de variedad a dividir de la automatización de su registro, de manera que permita “comprender la constreñimiento de variedad y respaldar el desarrollo de políticas públicas”, detallaron sus creadoras.
“Estos antecedente ya existen y son muy demandados por la sociedad, es cuestión de empezar a trabajarlos y publicarlos», sostuvieron las creadoras de AymurAI, que ya habitar en funcionamiento y disponible «para quienes lo quieran implementar».

Y concluyeron: “No esperamos que estas herramientas solucionen el problema de la constreñimiento de variedad, pero sí creemos que tienen mucho que aportar”.
Por María Clara Olmos.