 Hola, ahí está. Buenísimo. Bueno, gracias por estar acá. Sabemos que están muy cansades porque es la última charla. Alguien no habla español. Vamos a hablar un poco de espacio. Si no entienden algo, pueden levantar la mano. Bueno, acá estamos. Esta persona que soy yo y esta persona que yo. Para el querido, usar el pundera. Ya sí, somos cofundadoras y directoras de data género. En data género somos varias personas, pero somos tres directoras. Ya es Maylen y yo. Cada una se especializa en temas distintos. Ya es especialista en poder judicial. Yo en temas de ciencia de datos, barraía y feminismo. Y Maylen en temas de indicadores de género y estadística, que no puede estar acá porque es parte de otros proyectos y no tanto de este. Esto es data género. Data género es una ONG que nace hace tres años y pico. En marzo de 2020, el 8 de marzo, nos juntamos presencialmente. Nos vimos y después llegó la pandemia y todo se cerró. Pero en ese tiempo, logramos hacer muchas actividades virtuales y, recientemente, actividades presenciales que podemos ver acá. El martes que viene, vamos a estar en un evento a paso chivo, que es que vamos a presentar la traducción del libro Data Feminism, que es este libro que está acá, de Catherine Ignacio del MIT. En Buenos Aires, martes 25, a las 7 y media de tarde, en Casa Brandon. Después nos pueden buscar en las redes como Arroba Data Género y se inscriben. Es con cupo limitado, así que si planea venir por ofa inscribanse, porque si no, no va a haber lugar. Y un poco nuestra motivación cuando creamos Data Género fue pensar en qué pasaba con los datos y el género y los datos y el feminismo. Y vimos que faltaba mucho por hacer un faltante de datos enorme y había muchas cosas que todavía no estaban discutiendo. En ese momento, en 2019-2020, y ahora por suerte, hay cada vez más gobiernos y cada vez más organizaciones que hablan de datos con perspectiva de género, de datos de género y también de feminismo, que entendemos que muchos lugares es una palabra que queremos evitar porque es controversial, pero nosotros la usamos mucho porque somos feministas, somos interseccionales y nos parece importante plantearlo. Básicamente, nuestro trabajo implica abordar estos faltantes de personas y poblaciones no representadas en los datos y en particular de las personas y poblaciones que están borradas de los datos. Hay poblaciones que quieren estar borradas de los datos adredes, sí, también, y eso lo respetamos al 100%, pero también sabemos que hay muchos faltantes de datos que son por falta de voluntad o por falta de conocimiento y de capacitación de las personas que están a cargo de la recolección de esos datos y queremos ayudarlas y ayudarlas a que lo puedan hacer. Algo importante, vamos a ver un poquito de violencia de género y de transmisidios. Si alguien se siente incómodo con estos temas o está en una situación complicada, puede después acercarse y le contamos algo de la charla de manera más resumida sin tocar algunos temas, ¿sí? Pero siempre lo ponemos porque sabemos que son temas difíciles de escuchar en muchos casos. Bien. Cuando hablamos de datos faltantes, estamos hablando de que, no sé si ustedes saben, pero los objetivos de desarrollo sostenible, ODS, hay uno que es el número 5, que es la igualdad de género. Y para llegar a este objetivo de la igualdad de género, que es algo que sabemos que no vamos a llegar en 2030 ni de casualidad, pero encima, los datos que hay de igualdad, de desigualdades de género, faltan a mitad. Y de los que hay, la mayoría son súper viejos y muestran fotos del pasado y no de la actualidad. Entonces, es muy complejo estar queriendo resolver un problema como la desigualdad de género, la violencia de género, sin tener capacidad de entenderla por completo porque no hay datos. Entonces, nos vamos a enfocar sobre los datos faltantes sobre violencia de género y, en particular, en el poder judicial. ¿Qué pasa en el poder judicial de Meca Latina? Hay un gran descreimiento sobre el poder judicial, tiene una falta de credibilidad enorme, porque las personas no se acercan a denunciar, porque sabemos que muchos jueces resuelven de maneras que son problemáticas o son discriminatorias. Entonces, la gente no acude al poder judicial cuando hay un problema y dice, mejor lo resuelvo por otros medios, o no voy a la policía a denunciar porque la policía se va a reir en mi cara. Entonces, tenemos como varios problemas con respecto al poder judicial, pero vimos que hay ciertos espacios donde podemos empezar a recolectar datos para entender qué pasa en el poder judicial. Uno de esos datos son los registros administrativos y son los registros que se producen en las oficinas gubernamentales o en las oficinas de los juzgados, también. Entonces, acá es donde nace este proyecto de feminismo en inteligencia artificial en conjunto con el juzgado 10 y data género. Acá este meme, lo que intenta mostrar un poco, es que nuestro proyecto de feminismo en inteligencia intenta no tocar, vieron que acá toca igual un poquito, cejos raciales y de género, aplicaciones problemáticas de la IA e intereses económicos de las grandes empresas que son como siempre hay que estar esquivando todo esto. Una empresa que quiere usar tus datos para algo, alguien que quiere predecir si va a haber un delito o no va a haber un delito, o si un juez es racista o no es racista. Bueno, eso no lo vamos a querer hacer y no es lo que queremos hacer con feminismo en IA. Pero cuando decimos feminismo en IA, la gente un poco se imagina estas cosas. Y por qué ponemos esto, esta parte así, no es sin querer, sino que es inevitable que haya sesgos. Lo que sí queremos hacer es estar atentos a esos sesgos y a esas desigualdades dentro de nuestros datos y dentro de nuestros equipos para poder trabajar con eso. Este proyecto está, bueno, dentro de la red de feministas en IA de investigación, se llama FAIR, y dentro de un consorcio que es A Place Alliance, que está con el IDRC de Canadá y el Tecnológico de Costa Rica, como que, y hay alguna edad de table. Acá, ya es, ¿qué pasa? Todo se ríe de mí. Me encanta el laza. Me encanta el laza. Bueno, acá escribimos un paper que se llama Feminismos en Inteligencia Artificial, herramientas de automatización, hace una reforma judicial feminista en Argentina y México en el cual un poco planteamos lo que queremos hacer. De hecho, si ven este paper, decimos cosas que vamos a hacer, que ya hicimos, o sea, es un paper del pasado de marzo, no, mayo de 2021. Ahora, no, 20, 22. Ahora ya tenemos un prototipo andando, que es lo que les vamos a mostrar, que se llama AIMURAI, que en que he hecho a querer decir cosecha. O sea, lo que queremos es cosechar datos en los poderes judiciales. Pero bueno, si entran AIMURAI.info barran nuestra investigación, pueden leer un poco nuestro posicionamiento, también como feministas, como dateras y otros antecedentes de trabajos con lo que venimos haciendo y las bases de nuestro modelo. Después esto ya está subido a GitHub y a Hi-Face con el proyecto de Vía Libre, así que pueden ver todo el código allá y pueden ver nuestro modelo. Pero ahora sí me gustaría que hablemos un poquitito del juzgado 10, que está haciendo cosas muy interesantes y es el juzgado que nos abrió las puertas para poder empezar a implementar este prototipo. Yo me voy a usar aviso desde ahora, pues yo lo detisto. Ya es incómodo hablar con un micrófono en la mano y en el otro tener un láser. Bueno, yo un poco para aclarar, me siento en la situación del meme de Spider-Man, el que señala hacia otros Spider-Man. Porque yo soy data género, soy juzgado. Y cuando hablo, me siento un poco así, porque aparte, son dos espacios que me dan muchísima satisfacción. Cuando doy las charlas solas, Yvi me hizo un meme con mi carita de Spider-Man. Pero acá no lo sé, porque bueno, está dando la charla con ella. Un poco introducir, yo trabajo en el juzgado, soy secretaria del juzgado número 10 de la ciudad de Buenos Aires, que tiene competencia penal. O sea, trabajamos con casos de violencia de género. Desde el año 2016, que asumió en el juzgado Pablo Casas, que es el juez, decidió abrir los datos, empezar a abrir cuál es la actividad que realiza un juzgado. No solo por esto que decía Ivana de la desconfianza total que tiene la ciudadanía, no solo en Argentina, sino también en América Latina, sino porque estamos orgullosos del trabajo que realizamos y de cómo lo realizamos. Todo de frente a ese orgullo que tenemos, no queremos entrar en la misma bolsa que al resto, por decirlo de alguna forma, y mostrar qué es lo que hace un juzgado, además de que nadie conoce que es lo que hace un juzgado con las causas judiciales, ¿no? Ni hablar de cómo resuelven los jueces. Eso es otro tema que podemos hablar después. Lo que empezamos a hacer fue publicar los datos no destructurados, es decir, agarrábamos la sentencia. Pablo la firmaba y, a partir de ahí, se subía una cuenta de Twitter que creamos, que es arroba.jpsyf10 con número. Larguísimo, inentendible, pero si ponen juzgado en Twitter, vamos a aparecer, porque somos uno de los únicos. Y empezamos a publicar estas sentencias. Un aviso es lo siguiente. Podrán pensar qué pasa con todos los datos personales que hay en esas sentencias. El nombre de NI, Calle, donde sucedieron los hechos, personas involucradas, todo eso está anonimizado. Al principio lo hacíamos de forma manual. Esto quiere decir, imprimíamos, tachábamos, volvíamos a escanear y se subía a Twitter. Hoy en día tenemos una herramienta de inteligencia artificial. Esta es la sentencia publicada. Y gracias a que existe AIMURAI, hoy en día la base de datos se crea o se carga en realidad de forma automatizada. ¿Quieres poner? Yes. Sí, sí, le saco el volumen para que no diga, hi, my name is Ivana. Porque eso es lo que dice al principio del video. Bueno, AIMURAI es una realidad que hoy existe. Voy a contar brevemente qué es lo que hace. Uno se loguea, que puede ser a través de una cuenta de Google o local. Sólo el login es para Google. Lo que hacemos ahí es cargar las resoluciones. Por ejemplo, Pablo firmó 10 resoluciones. Yo cargo las 10 resoluciones. Lo que hace AIMURAI es procesar eso, reconocer las entidades. Una vez que las procesas me muestran, como si fuera un formulario. Estoy yendo más rápido de lo que va el video, perdón. Si querés. Ahí va, ahí está. Entonces, de un lado me aparece la resolución con todas las entidades resaltadas. Y del otro lado me va a aparecer todos casilleros, que sería como un formulario, donde yo voy a ver todas las entidades. ¿Qué es lo que me permite esta parte? Chequear que lo que reconoció AIMURAI este día. Porque hay algo que es muy importante, que es la verificación humana. No vamos a dejar que la inteligencia artificial haga cosas por sí sola, sino que siempre va a requerir de que un ser humano le diga, esto está bien, esto está mal, esto hay que modificarlo. Y también eso va a ser que aprenda. ¿Qué es lo que tiene AIMURAI? Marca cuáles son casos de violencia de género y cuáles no, cuáles son los tipos de violencia que están presentes en esos casos, cuáles son distintas características de la persona acusada y de la persona víctima, como género, edad, nacionalidad, si trabaja, si no trabaja, cuáles son sus estudios para poder comprender cuáles son las realidades de esas personas que están involucradas en el conflicto. ¿Qué tipo de relación tenían? Como, por ejemplo, son vecinos, son amigos, son parejas, son ex parejas, mario y mujer, etcétera. ¿Si tienen hijos o no? ¿Si tenía medidas de protección o no, etcétera. Al final de este formulario aparece qué es lo que está decidiendo el juez en esa decisión judicial y una vez que yo le digo AIMURAI, AIMURAI todo esto está bien, o sea que yo ser humano lo valido, abajo toco validar documento, y lo que va a hacer es generarme automáticamente la base de datos. Que tenemos dos opciones, AIMURAI te lo puede subir a un Google Drive que solo va a subir la base de datos, o sea, ningún tipo de dato personal ni sensible de las personas involucradas en el conflicto y si yo no utilizo Google porque no tengo idea, como suza el Drive y le puedo pedir que lo haga local. Entonces me genera un Excel en mi computadora. Entonces lo que hace hoy en día, AIMURAI aparte de facilitarme la vida a mí, que yo antes lo hacía de forma manual, forma manual es completando dato por dato en la base de datos que son como 63 columnas, que hoy en día tiene como 7,000 filas, un minuto, lo hace de forma manual. Para que se queden, sí, sí, sí, en eso somos. De hecho, en lo que dijo IBI, que está público el modelo y demás, obviamente que no está público los datos con los que entrenamos, esto lo aclaro por las dudas porque tiene que ver con resoluciones judiciales. Y esta es básicamente la base de datos. En la página de AIMURAI también está el link al juzgado donde también va a poder encontrar la base y demás. Y también hay, si no me equivoco, donde está el modelo y el código hay algunos damis. Para quien lo quiera probar, hay una resolución con datos falsos. Para quien lo quiera probar, lo puede hacer. Esta es la página web donde está también el artículo en español y en inglés. Escribimos también artículos y textos y participamos de esta publicación de Inteligencia Artificial Feminista para América Latina y el Caribe. Hoy en día lo que estamos haciendo es reclutar jueces y juezas, así que si alguien conoce alguna jueza o alguien que trabaja en el Poder Judicial no necesariamente tiene que ser las cabezas porque sabemos que son, en general, muy difíciles de acceder, nos avisan y nos ponemos en contacto porque es en la que estamos ahora. Y nada, muchas gracias. Y tienen preguntas. No sé si hay lugar para preguntas, pero tenemos más o menos lugar para dos preguntas. Y también por ahí pongan otra vez para que, muchas gracias por, no, no, no, para seguirlas y todo. Muchas gracias por la charla, realmente increíble el trabajo que hacen y si quieren seguirlas ahí en Twitter y todo, en todos lados, síganlas. Preguntas. Perdón, perdón. Hay Muray, no hay, repito, breve. Hay Muray no analiza los datos, sino que los disponibiliza, o sea, estructura y después eso se sube. El análisis lo puede hacer cualquier ser humano. Hay causas penales, contravencionales que son en la ciudad de Buenos Aires, delitos que no llegaron a ser delitos, situaciones menores que no llegaron a ser delitos y faltas que tiene que ver con cuestiones administrativas. Nos encantaría llegar a civil, por ejemplo, todos los temas de familia, laboral, todo lo que tiene que ver con acoso laboral. Nos encantaría, pero para eso nos tienen que dar los datos básicamente. Buenísimo que estás reclutando jueces o personas que trabajan en la justicia. ¿Cuáles son los obstáculos para no tener el acceso a esos datos o para que los jueces se sumen a esta iniciativa, que en algún punto les facilita la vida a ellos también o no? Sí, pero o sea, tener más datos implica tener más transparencia y que todo el mundo pueda ver qué está resolviendo el juez en diferentes temas. Y muchos jueces no quieren estar observados y observadas. O sea, estamos cambiando el lente del panóctico hacia ellas y la verdad es que eso puede ser bastante problemático. Hay jueces, como Pablo Casas, que tienen como esta disponibilidad de decir yo, voy a poner a discusión todo, o sea, no discusión. Todo el mundo ve a lo que yo resuelvo. Hay otros jueces y jueces que no quieren que se suceda. Y de hecho, cuando nos enteramos, se arma lío, porque vemos lo que están resolviendo sobre un caso de violencia de género o sobre un caso de discriminación o sobre un caso de discapacidad y es terrible. Entonces, es complejo que muchos jueces y jueces que quieren acceder a eso. Otro sí, por suerte, hubo jueces que se acercaron a nosotras o a través de algún programa de televisión que salimos o algo dijeron, che quiero participar y se acercaron. Pero es difícil que eso se expande la totalidad de los jueces y jueces. Y ¿cuánto creen que costaría trasladarlo a, por ejemplo, trabajo social, a los informes de los trabajadores sociales? Para empezar. Vamos. Bajadores sociales. ¿Cómo sería? Porque también, claro, en el que se hacen sobre las personas en los distintos ámbitos, que no son sentencias, pero comparten algo, ¿no? Son parecidas, hubo hecho muchísima de ahí. Muchísima de la información que están en las resoluciones judiciales salen a veces de esos informes. En nuestro caso, de la oficina de violencia doméstica, pero que son muy similares con informes sociales, sociambentales, médicos. O sea, sí, está toda esa información. Ahí lee algunos de esos informes o parte de esos informes porque están en las sentencias. Pablo cita mucho, mucha parte de los informes para dar lugar a su sentencia. Entonces podríamos seguir entrenando a Imurai con más información. Para eso necesitamos mejores computadoras porque todo se entrena de manera local, no se puede entrenar en la nube, porque son datos muy sensibles. Pero podríamos hacerlo también y agregar más campos dentro del set de datos o armar una Imurai 2 que tenga esa información. Sí, o una pestaña distinta. No se falta que sea un 2. Sí, se podría. No requeriría tanto. Hasta esto irán trabajando con entidad de tipo, reconocimiento de entidades, nombres, ¿ven en otro tipo de modelos que podrían utilizar a futuro? ¿Cuáles son otros proyectos que tienen? Nos gustaría poder, la verdad, que trabajar con modelos más grandes de lenguaje. Pero, bueno, nuestro poder de cómputo es muy limitado. Pero sabemos que funcionará mucho mejor porque de hecho lo probamos con datos falsos y estaba buenísimo. Lo que queremos hacer a futuro es crear muchos datos sintéticos, o sea, todas estas resoluciones que vieron con datos falsos, hacerlo manualmente con un gran equipo de etiquetadores, cambiar todos los datos para que no haya ningún dato sensible y entrenar esos datos si en la nube y que salgan cosas, o sea, porque nuestras métricas son bastante malas, o sea, no bastantes, son un poco malas, pero funcionan. Bueno, muchísimas gracias. La verdad que es increíble.