Inteligencia artificial, datos y ética en América Latina: cómo estamos y hacia dónde vamos?

• Maia Levy Daniel, CETyS;
• Jamila Venturini, Derechos Digitales;
• Laís de Oliveira Ramalho, Pontifícia Universidade Católica do Rio de Janeiro;
• Marcela Mattiuzzo, VMCA Advogados;
• Jimena Moreno González, CIDE;
• Jonathan Mendoza, INAI.

• Tal como sucede en otras partes del mundo, en América Latina distintos tipos de tareas están siendo automatizadas en el sector público con el fin de acelerar y eficientar procesos. Pueden encontrarse ejemplos en distintos países de la región en torno a la asignación de recursos públicos, en la toma de decisiones en el ámbito judicial, en la identificación de contagios de COVID-19, en los Objetivos de Desarrollo Sostenible y hasta en la predicción de potenciales vulneraciones de derechos.
• Como es sabido, la automatización de estas tareas requiere del uso de grandes conjuntos de datos. Si bien algunos países latinoamericanos cuentan con leyes de protección de datos personales, no todos las tienen y el nivel de protección no es homogéneo. El Centro de Estudios en Tecnología y Sociedad (CETyS) en Argentina ha venido trabajando en la intersección de la implementación de inteligencia artificial (IA), la ética y la gobernanza de datos en América Latina, y ha liderado y desarrollado numerosos estudios en el marco de proyectos locales y regionales. De estos proyectos han participado también otras organizaciones universitarias y de la sociedad civil de la región.
• Sobre la base de los estudios desarrollados, este panel tiene como objetivo entender el estado de situación de la implementación de sistemas de IA en el sector público en la región y el nivel de protección de los datos utilizados para desarrollar estos sistemas, así como identificar riesgos éticos involucrados en los que se buscará plantear líneas de acción hacia el futuro. Se analizarán algunos hallazgos de la edición 2021 del proyecto GuIA sobre ética, gobernanza y políticas de IA en América Latina, y del estudio “Preparación del sector judicial para la inteligencia artificial en América Latina”, a fin de brindar un panorama general del desarrollo de IA desde el sector público, así como el escenario específico en el sector judicial.
• Desde la organización Derechos Digitales se presentarán los resultados del informe “Decisiones automatizadas en la función pública en América Latina”, haciendo especial hincapié en casos de uso e identificando riesgos desde una perspectiva ética y de derechos humanos. Se analizarán los aprendizajes del curso “Inteligencia artificial y derechos humanos en políticas públicas: más allá de la privacidad”, co-organizado entre CETyS y Derechos Digitales en 2022, dirigido a gestores/as públicas. Se identificarán los aspectos positivos de la implementación de IA en los países abordados, principales preocupaciones y posibles áreas de mejora en la implementación de sistemas de IA en el sector público hacia el futuro, y su inserción en debates internacionales más amplios.
• En línea con los objetivos mencionados se plantearán, entre otras, las siguientes preguntas:

1. ¿Cómo están pensando la implementación de sistemas de IA en el sector público y cuáles son los objetivos principales?
2. ¿Qué problemas busca resolver la implementación de IA en el sector público? ¿Cómo se decide su implementación?
3. ¿Qué rol han jugado las leyes de protección de datos en el sector público?
4. ¿Qué países pueden tomarse como ejemplo a seguir que hayan logrado un equilibrio entre la promoción de innovación y la efectiva protección de datos?
5. ¿Cuáles podrían ser áreas de mejora en la implementación de IA en el sector público?
6. ¿Cómo se insertan estos debates en la perspectiva de los objetivos de desarrollo sostenible y el papel de los datos?

Referencias:

1. Proyecto GuIA sobre inteligencia artificial, ética y políticas públicas;
2. Proyecto Evaluación de la preparación para la adopción de inteligencia artificial en los sistemas judiciales de la región;
3. Curso “Inteligencia artificial y derechos humanos en políticas públicas: más allá de la privacidad”;
4. Informe “Decisiones automatizadas en la función pública en América Latina” (Derechos Digitales).