Categorías
Blog CETyS Inteligencia Artificial

Encuentros GuIA: Ética e Inteligencia Artificial en América Latina y el Caribe

En julio del 2020 se llevó a cabo el ciclo de encuentros GuIA sobre la aplicación ética, la gobernanza y las políticas de la inteligencia artificial en América Latina y el Caribe (LAC). El proyecto GuIA tiene como misión congregar centros universitarios, think tanks e iniciativas de diversas disciplinas y países de LAC para presentar trabajos de origen científico-académico sobre el impacto de la IA en la región. A continuación compartimos las grabaciones y resumimos las principales conclusiones de este ciclo compuesto por tres webinars.

El Derecho, la ética y los Derechos Humanos ante la Inteligencia Artificial

El primer encuentro GuIA contó con tres exposiciones que desde una perspectiva del derecho y la filosofía moral advierten sobre diversos riesgos de la IA y proponen marcos legales con el fin de que la región pueda avanzar desde sus propios marcos regulatorios y éticos. Primero, Juan Carlos Lara Gálvez, de Chile, comentó su documento de investigación que se centra en tres puntos: i. el análisis de las directrices y principios éticos como marco para una regulación de la IA; ii. el potencial del derecho internacional de los derechos humanos en una regulación nacional y regional de estos sistemas; y, finalmente, iii. una descomposición de las actuales regulaciones nacionales y formas de gobernanza. 

La falta de regulación ética de estos sistemas presenta varios problemas. Entre ellos, Daniel Castaño, de Colombia, menciona los riesgos de transparencia, falta de responsabilidad, de control, explicabilidad y justicia que presentan las actuales aplicaciones de IA en Colombia y la región. A su vez, el investigador se centra en el rol que podría cumplir la ética digital y profundiza en el derecho a obtener una explicación, tomando algunas iniciativas interesantes de la región y proponiendo un modelo basado en protocolos por diseño y defecto (Ver documento completo)

Finalmente, Carlos Amunátegui, de Chile, comentó su trabajo»Sesgo e Inferencia en Redes Neuronales ante el Derecho» realizado en esta primera edición de GuIA. La presentación profundizó en el problema candente de los sesgos, especialmente, “desde que las redes neuronales se han convertido en el modelo predominante de los sistemas de IA”. La falta de transparencia de las técnicas de redes neuronales en conjunto con el uso de datos que trasladan sesgos ya existentes en la sociedad y los cristalizan, trae diversos problemas éticos al campo del Derecho.

Los datos y la Inteligencia Artificial

En el segundo webinar, Carolina Aguerre, co-directora del CETyS, y Claudia May del Pozo, de México, conversan sobre diversas estrategias de gobernanza de la IA en la región, con especial foco en la regulación de datos. Las autoras indagan en la necesidad de una estrategia regional y nacional de gobernanza de datos para que LAC disponga de un marco propio frente a una creciente economía de datos. Para destacar esta nueva economía, Claudia comenta sobre el caso de Shiru Café, una cafetería universitaria (originalmente de Japón) que no funciona pagando con dinero, sino con datos.

Por su parte, tras un análisis de las estrategias de gobernanza de cinco países de la región (Argentina, Chile, Colombia, Uruguay y México) Carolina indaga sobre tres problemáticas: i. las asimetrías informacionales en términos de los actores que tienen capacidades de desarrollar e implementar la IA; ii. las dificultades de llegar a consensos normativos en términos de reglas, principios y normas que rigen las pautas a estos sistemas; y iii. los ajustes y desajustes de los mecanismos de gobierno. 

Ética, políticas, aplicaciones de la Inteligencia Artificial en la región

El tercer y último webinar de Encuentros GuIA trató sobre algunas aplicaciones de la IA en la región, especialmente en el sector público. Primero, Chelcee Brathwaite, de Barbados, presentó su documentosobre diversas oportunidades de utilizar los sistemas de IA en el Caribe, por ejemplo, en la prevención de desastres naturales o en la educación. Sin embargo, el desarrollo de la IA en el Caribe es un campo aún incipiente y dependiente, en gran medida, de inversiones extranjeras, lo cual no permite concretar proyectos públicos o privados. Esto implica un crecimiento desparejo del Caribe con respecto al resto de la región; sin mencionar otros países del mundo. 

A continuación, María Lorena Flórez Rojas, de Colombia, comentó El impacto de herramientas de inteligencia artificial: un análisis en el sector público en Colombia”. El trabajo muestra las actuales aplicaciones de IA en sectores públicos como la fiscalía, la Corte Constitucional, la Contraloría General de la República, entre otras. La expositora concluye con la observación de los riesgos de tecno-fascinación, de decisiones sombrías (o falta de transparencia), de decisiones inconclusas y de automatización sin auditoría que presentan estas aplicaciones en Colombia. A su vez, presenta casos de referencia sobre aplicaciones éticas y sustentables del país. 

Un punto en común de las exposiciones es que las aplicaciones de IA en la región aún no cuentan con marcos regulatorios y éticos que puedan servir como guía, tanto para el sector público como el privado. Para concluir y destacar este punto, Juan Diego Castañeda, de Colombia, presenta una investigación sobre el polémico caso de SISBEN, un algoritmo de clasificación social para detectar posibles beneficiarios a programas sociales. Además de los problemas de transparencia con respecto al funcionamiento de estos algoritmos, Juan Diego comenta sobre el nivel de vigilancia de la pobreza que conlleva el SISBEN y su creciente función de predicción de los ingresos sobre un sector de la sociedad que ya de por sí se encuentra discriminado.

Invitamos a leer más sobre el proyecto Guia y a descargar los documentos de los y las investigadoras que se encuentran abiertos al público en guia.ai