En el marco de la consulta pública abierta por la Suprema Corte de Justicia de la Provincia de Buenos Aires (SCBA) para reglamentar el uso de la Inteligencia Artificial en los tribunales, el Centro de Estudios en Tecnología y Sociedad (CETyS) presentó un documento de posición elaborado por la investigadora María Pilar Llorens. El texto analiza las fortalezas del proyecto normativo y plantea observaciones estratégicas para garantizar una adopción responsable y respetuosa de los derechos humanos.
La incorporación de sistemas de inteligencia artificial en la administración de justicia representa una de las transformaciones más profundas y urgentes para las instituciones democráticas. Ante el avance acelerado de estas herramientas —en particular la IA generativa y agéntica—, la Suprema Corte de Justicia de la Provincia de Buenos Aires (SCBA) impulsó un proceso de consulta pública sobre el proyecto de “Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial” (Resolución SC Nº 1719/26).
La presentación da continuidad a la trayectoria del CETyS en el estudio de la Inteligencia Artificial y el Poder Judicial en América Latina.
Reconocimiento a un paso necesario
Desde el CETyS se valora la decisión de la SCBA de someter a debate público la regulación de la IA en los tribunales. Promover procesos participativos resulta indispensable para asegurar que el despliegue tecnológico responda a estándares de tutela judicial efectiva, debido proceso y protección de derechos fundamentales.
Entre las principales fortalezas señaladas en el documento destacan:
Alineación internacional: El proyecto se inspira en experiencias y recomendaciones internacionales para la adopción de IA en el ámbito judicial.
Enfoque basado en riesgos: La categorización de tareas según su nivel de riesgo brinda mayor certeza a los operadores judiciales sobre qué usos están permitidos.
Cláusula de actualización periódica: Se prevé la revisión constante de la norma frente a la evolución técnica y jurídica de estas herramientas.
Observaciones y recomendaciones estratégicas
A pesar de resaltar el valor de la iniciativa, el análisis del CETyS identifica inconsistencias y vacíos que requieren una revisión sistemática antes de la aprobación definitiva de la reglamentación.
Entre las observaciones presentadas se destacan:
Definición de «supervisión humana efectiva»: El reglamento exige control humano sobre los resultados de la IA, pero no especifica los parámetros o criterios para determinar cuándo dicho control es realmente sustantivo y no una mera formalidad.
Garantías de impugnación: Aunque se contempla el derecho a cuestionar decisiones donde haya intervenido IA, no se detallan los mecanismos procesales específicos para canalizar dichas impugnaciones.
Tensión entre responsabilidad institucional e individual: Se traslada a los operadores judiciales la decisión individual de utilizar ciertos sistemas, cuando la selección, validación y autorización de herramientas debe ser una responsabilidad de la institución.
Precisión técnica y conceptual: Se observa un uso indistinto de términos como «sistema», «herramienta», «algoritmo» y «modelo», así como imprecisiones en conceptos como «alucinaciones» y «desinformación».
Régimen de consecuencias: Se advierte la ausencia de referencias a las consecuencias o responsabilidades individuales ante el uso indebido de estos sistemas por parte de los operadores judiciales.
Compromiso con la gobernanza de la tecnología
Con este aporte, el CETyS reafirma su compromiso con el diálogo multiactor y el desarrollo de marcos de gobernanza tecnológica con perspectiva regional y de derechos humanos.
Podés leer el documento completo de posición del CETyS haciendo clic acá.
Para más detalles sobre la convocatoria de la SCBA, podés consultar la nota oficial de la SCBA y la cobertura en Infobae.
