Mercado se dedica a impulsar políticas de Justicia Abierta basadas en la transparencia, los datos abiertos, la rendición de cuentas, la colaboración y la participación públicas. Como consultor, su foco está en indagar, analizar información y producir conocimiento para guiar a las instituciones judiciales en esa dirección.
En el marco de Líderes, el objetivo de su investigación “MEJORES DATOS, MEJOR IA. Necesidades de datos para una IA de justicia responsable”es brindar a las instituciones judiciales una serie de principios fundamentales que deben tener en cuenta para gobernar sus datos, de manera que estos puedan servir de insumo en el desarrollo de sistemas de inteligencia artificial (IA) responsable. La finalidad del planteo es garantizar que el uso de IA pueda darse en el marco de procesos de transformación digital de la administración de justicia transparentes, colaborativos y centrados en las personas, que beneficien de manera equitativa a todos los individuos, particularmente a aquellos en situación de mayor vulnerabilidad. Al proponer principios para la gestión de datos y abordar los desafíos éticos asociados con la IA, el trabajo busca contribuir a la creación de marcos regulatorios que no sólo impulsen la innovación en la administración de justicia, sino que también refuercen los derechos humanos y la inclusión digital.
¿Por qué te postulaste al programa Líderes en 2024?
Mi expertise en mi día a día es trabajar con datos institucionales. He trabajado en el Ministerio de Justicia de la Argentina en la apertura de datos no solo del ministerio, sino de varios poderes judiciales provinciales. Esta experiencia tuvo una curva de aprendizaje muy larga donde logramos un hito importante que fue crear el primer portal de datos judiciales abiertos de Argentina. Adicionalmente dirijo el grupo de datos abiertos de la Red Internacional de Justicia Abierta, que es también una red profesional, liderada por el Consejo de la Magistratura de la Ciudad de Buenos Aires, pero que está integrada por personas de toda la región interesadas en el concepto de “apertura judicial” en términos de datos.
En el año 2023 participé en Montevideo de la Diplomatura en Gobernanza de Internet en la Universidad Católica del Uruguay y ahí conocí a varios de los becarios del programa Líderes que estaban participando del programa Policy Shapers de LACNIC. Luego de charlar con ellos me postulé porque entendí que mi perfil se ajustaba a Líderes: trabajo como consultor, pero no creo que mi trabajo se limite a hacer proyectos, sino que tomo como parte de mi actividad el investigar, escribir y publicar, así como enseñar. Ese mix entre práctica de consultoría y academia, esto es, entre praxis y generación de conocimiento, entiendo que forma parte de lo que se busca impulsar con el programa Líderes. Al no tener un perfil cien por ciento académico era difícil poder llevar a cabo esta investigación que tenía pendiente desde hace tiempo, porque me demandaba tiempo que no tenía. Gracias al apoyo de Líderes y de LACNIC pude darme la pausa que precisaba y dedicarle el tiempo que requería.
¿Qué objetivos guiaron tu investigación?
(Acceso libre, no requiere suscripción)
La IA funciona aprendiendo de datos, esto es, en base a los patrones que extrae de grandes conjuntos de datos, de manera estadística. Esto significa que a una pregunta que le hago me responde con la respuesta más probable tomando como punto de partida los datos con los cuales fue entrenada.
Existe un problema en esto, y es que esos datos que se usan para el entrenamiento no siempre son de calidad. Si los datos no son de calidad, las respuestas pueden no ser de calidad. La cuestión de los datos para la IA es crucial, pero son dos mundos que todavía no se piensan como un todo. Nos maravillamos con los avances de la IA de cada día pero el tema de con qué datos la entrenamos todavía está en un cono de sombra. La regulación europea, que es reciente, establece que para garantizar el funcionamiento de sistemas de IA bajo condiciones de seguridad y de cumplimiento de los derechos humanos, es clave entrenarla con datos de alta calidad, que sean gestionados de manera adecuada. Esto nos lleva a revisar la fuente de los datos: las instituciones públicas gestionan y publican datos desde hace varios años, pero lo hacen sin un criterio claro de cómo lo que publican puede impactar en el funcionamiento de la IA, que es un campo que es nuevo para muchas de ellas.
¿Cuál fue el abordaje y la metodología elegida para el proyecto?
La IA funciona aprendiendo de datos, esto es, en base a los patrones que extrae de grandes conjuntos de datos, de manera estadística. Esto significa que a una pregunta que le hago me responde con la respuesta más probable tomando como punto de partida los datos con los cuales fue entrenada.
Existe un problema en esto, y es que esos datos que se usan para el entrenamiento no siempre son de calidad. Si los datos no son de calidad, las respuestas pueden no ser de calidad. La cuestión de los datos para la IA es crucial, pero son dos mundos que todavía no se piensan como un todo. Nos maravillamos con los avances de la IA de cada día pero el tema de con qué datos la entrenamos todavía está en un cono de sombra. La regulación europea, que es reciente, establece que para garantizar el funcionamiento de sistemas de IA bajo condiciones de seguridad y de cumplimiento de los derechos humanos, es clave entrenarla con datos de alta calidad, que sean gestionados de manera adecuada. Esto nos lleva a revisar la fuente de los datos: las instituciones públicas gestionan y publican datos desde hace varios años, pero lo hacen sin un criterio claro de cómo lo que publican puede impactar en el funcionamiento de la IA, que es un campo que es nuevo para muchas de ellas.
¿Cuál fue el abordaje y la metodología elegida para el proyecto?
Intenté unir los dos mundos, las personas que vienen más del lado de los datos y las que vienen más del lado de la IA. Seleccioné un grupo selecto de entrevistados de ambos universos para entender sus puntos de vista luego de haber leído cientos de papers y de cruzarlos con mi experiencia como aperturista de datos. Busqué consolidar la perspectiva de voces autorizadas y de personas que están trabajando en estos temas. Para mí el principal obstáculo es la cantidad de información descomunal que se produce sobre este tema, también es muy difícil encontrar la literatura mejor fundamentada.
Frente a mi pregunta de investigación que era entender cuáles son los criterios de calidad que deberían seguirse en la publicación de datos, el principal hallazgo es que, si aspiramos a una IA responsable, esto es, que funcione bajo principios éticos y normativos, la gestión (la “gobernanza”) de los datos debe buscar un equilibrio entre estos cinco criterios: estandarización (esto es, que se tienda a publicar y gestionar datos de manera uniforme), accesibilidad (que los datos estén disponibles para todos), completitud (que los datos reflejen todas las situaciones, esto es, que den información sobre la situación de grupos sociales desaventajados, por ejemplo), privacidad (que los datos no reflejen información que es privada, o que se encuentra bajo protección de ser divulgada), y ciberseguridad (que se asegure que los datos son seguros, no se encuentran adulterados, no son vulnerados para violar la privacidad de las personas, etc).
¿Cuál es la relevancia del tema para la comunidad de LACNIC?
Creo que existen varios puntos de intersección porque el trabajo explora cuestiones como la ciberseguridad, la privacidad o la estandarización, que son cuestiones que deben tenerse en cuenta desde el nivel técnico a la hora de reducir las brechas digitales existentes. En definitiva, lo que busqué con el trabajo es guiar una transformación digital más humana y más centrada en las personas, lo que requiere de la cooperación multiactor y desde ya, de la comunidad técnica.
¿Qué podrías destacar de tu paso por el programa? ¿Por qué recomendarías postularse para la edición 2025?
Lo recomendaría porque creo que deben existir más espacios como este, de reflexión, de intercambio y de generación de conocimiento para personas que no se dedican full time a la investigación sobre estos temas. Fue muy útil, más allá del apoyo económico, contar con el aval de una institución reconocida como LACNIC para poder llevar a cabo la investigación. Tuve un marco de referencia para hacer este trabajo que tenía pendiente hace tiempo y además la visibilidad que te da estar en un programa como Líderes. La puesta en común también fue muy interesante, porque pude contactar con otros investigadores de toda la región que están generando interconexiones entre distintas temáticas relacionadas a la gobernanza de Internet. A eso se le suma que LACNIC provee de la tutoría de una persona experta en la temática (en mi caso Julián Casasbuenas, director de la ONG colombiana especializada en el impacto social de las tecnologías) que te orienta y te ayuda a ordenar tus ideas.
Por mi parte, yo hice una versión más acotada de la investigación que se presentó en la IGF celebrada en Arabia Saudita, como un enfoque un poco más general y práctico. Por otro lado, en lo personal, el proyecto también nutre mi trabajo cotidiano, me ha dado argumentos y perspectivas mucho más fuertes y certeras para presentar el tema de la calidad de los datos, fue también un ordenador de mucho material que venía leyendo.
Mercado tiene en el horizonte para este año la organización de un evento en el marco de la Red Internacional de Justicia Abierta donde se presentará el trabajo realizado para Líderes. Para el futuro y a medida que siga avanzando la agenda de la IA, está entre sus objetivos involucrarse aún más en el tópico de su investigación y buscar más ejemplos generales de calidad de datos, así como también focalizarse en la llamada “soberanía de los datos”, una temática muy vigente e importante en el futuro de esta tecnología.
