El caso Chubut: Responsabilidad judicial en tiempos de inteligencia artificial generativa

En la Justicia argentina los debates sobre la inteligencia artificial (IA) no son nuevos. Con anterioridad a la popularización de la inteligencia artificial generativa (IAGen), el Poder Judicial ya discutía acerca de la oportunidad y la preparación de la institución para implementar sistemas de inteligencia artificial (aquí). Con la masificación de los grandes modelos de lenguaje, se profundizó el interés del ecosistema judicial en la IA, un término que tiende a identificarse con los modelos generativos. Si bien se percibe que la IAGen podría mejorar los flujos de trabajo en el Poder Judicial, al mismo tiempo existen riesgos asociados a su uso como la opacidad, la falta de transparencia, la excesiva confianza y la falta de un control efectivo sobre los resultados que producen los modelos.

Frente a estos desafíos, la pregunta sobre la gobernanza y la regulación de la IAGen en la Justicia argentina se convirtió en un tópico prevalente en el ecosistema judicial. Sin embargo, existe una fragmentación en estas discusiones debido a que en la Argentina conviven 25 jurisdicciones con necesidades y capacidades diferentes. Hasta el momento, la mayoría de las jurisdicciones no ha tomado una posición específica sobre el uso de la IAGen. No obstante, algunas jurisdicciones han optado por el establecimiento de marcos normativos que tienden a regular el uso de la IAGen hacia el interior del Poder Judicial (ver, por ejemplo: CABA, Chubut, Rio Negro, San Juan). Una aclaración importante es que estos marcos regulan el uso de estas herramientas por empleados y funcionarios judiciales, no así el uso que puedan hacer los abogados litigantes en sus presentaciones judiciales.

No obstante, la existencia de marcos normativos en una jurisdicción específica no asegura que la práctica judicial sea consistente con ese marco. En este contexto se pueden contrastar dos casos. Por un lado, un caso donde a partir de la habilitación que surgía de la reglamentación vigente, una jueza utilizó un modelo de IAGen como un mecanismo de apoyo en la comunicación de su decisión, al crear un cuento en el que le explicaba a una niña su proceso de adopción. Por otro lado, un caso donde un juez de primera instancia utilizó un modelo de IAGen para (auxiliarse en) la redacción de una sentencia penal donde se condenaba a una persona por un robo. Este último caso es el más problemático porque plantea interrogantes acerca de qué significa la utilización de modelos generativos como herramientas de apoyo en la producción de decisiones judiciales, y, particularmente, qué significa el control humano (human in the loop) en el contexto de la función jurisdiccional.

El caso

El 4 de junio de 2025 el juez penal de primera instancia dictó una sentencia donde condenaba a una persona a 2 años y 6 meses de prisión por un robo simple. Frente al recurso de impugnación interpuesto por la defensa alegando arbitrariedad probatoria, la Cámara en lo Penal de Esquel anuló la condena por un motivo distinto: la sospecha de un uso indebido de un modelo de inteligencia artificial generativa por parte del juez inferior. 

En su sentencia del 15 de octubre de 2026, la Cámara encontró que el magistrado había recurrido a un modelo de inteligencia artificial generativa para redactar su sentencia sin dejar constancia de este hecho. En la sentencia de primera instancia se leía “Aquí tienes el punto IV reeditado, sin citas y listo para copiar y pegar:”, lo que llevó a la Cámara a considerar que el magistrado se había servido de un modelo de inteligencia generativa y que el hecho de no dejar constancia impedía controlar el grado de asistencia requerido y también el razonamiento del magistrado. De manera tal que violaba las Directivas para el uso ético y responsable de inteligencia artificial generativa en el Poder Judicial de Chubut (Acuerdo Plenario 5435/2025), adoptadas por el Superior Tribunal de Justicia (STJ) de esa provincia el 1 de abril de 2025; por lo que correspondía anular la sentencia de primera instancia. 

Esta decisión fue recurrida por el Ministerio Público Fiscal y el 13 de marzo de 2026 el Superior Tribunal de Justicia de Chubut revocó la sentencia de la Cámara en lo Penal de Esquel por considerar que la Cámara había excedido sus funciones al declarar la nulidad de la sentencia de primera instancia por el uso de herramientas de inteligencia artificial generativa, ya que el incumplimiento del Acuerdo Plenario 5435/2025 no habilitaba la modificación de las causales de nulidad previstas en el Código Procesal Penal.

La tensión entre en la decisión del STJ y la Cámara de Esquel es relevante porque pone de manifiesto que existen diferencias en torno al modo en que se interpretan los principios que el propio Poder Judicial estableció para regular el uso de los modelos de inteligencia artificial generativa en su seno. Mientras que la Cámara pone el foco en la falta de reconocimiento del uso de IAGen en la redacción de la sentencia, señalando que esta opacidad impide conocer con certeza que el texto plasmado sea de la autoría del juez; el STJ señala que la utilización del modelo generativo per se no es incompatible porque basta la firma del juez para que todos los argumentos vertidos (hayan sido generados o no por la IAGen) sean reconocidos como de su autoría y por ende como responsable final de esa decisión.

Cuando la firma no alcanza

La sentencia del STJ señala que solo puede controlarse jurisdiccionalmente la “motivación exteriorizada en la sentencia” pero no así los procesos por medio de los cuales se llega a esas consideraciones. Como resultado, mientras la decisión sea atribuible al magistrado (con la firma de la decisión) responde íntegramente por su contenido independientemente de que la sentencia sea redactada con IAGen, porque el juez no tiene la obligación de “documentar los instrumentos utilizados para arribar a su conclusión” (considerando III, pp. 3 y 4).

Las conclusiones del STJ así planteadas son problemáticas. En primer lugar, contradicen sus propias directivas que procuran que el uso de los modelos de IAGen se realice de manera transparente y ética. La falta de reconocimiento del empleo de IAGen en la redacción de los argumentos de una sentencia atenta contra esta pretendida transparencia y contra la integridad de las decisiones (ver, por ejemplo, Directrices de UNESCO para el uso de IA en la Justicia), ya que no es posible controlar el alcance del texto producido por el modelo. 

En segundo lugar, la opacidad en el uso de estas herramientas pone en cuestionamiento el control humano de la decisión. Para la utilización de sistemas de inteligencia artificial, incluyendo los modelos generativos, en general, es una buena práctica que una persona sea responsable de monitorear el proceso (human in the loop) o bien el resultado (human on the loop) independientemente del sector donde se use. En el ámbito judicial, dado los riesgos de afectación de derechos, esto se traduce en que los operadores judiciales, especialmente los jueces, realicen un control específico de los resultados obtenidos (Peluso Lopes, 2026).

En este contexto, el control humano es necesario porque procura limitar o evitar la afectación de derechos fundamentales de los justiciables. Pero no basta que una persona mire los resultados, se requiere que el control sea efectivo. Es decir, que la persona ejerza una supervisión real de los textos producidos por la IAGen. En este sentido, al no existir información concreta sobre la forma en que el magistrado utilizó el modelo generativo impide precisar si existió un control efectivo sobre los resultados producidos por la IAGen. Esto se debe a que no puede afirmarse que ese control existió por el solo hecho de la firma de la sentencia que convalida el contenido generado por el modelo.

Además, hay estudios (aquí) que señalan que existe una tendencia a confiar excesivamente en los resultados de los sistemas de IA sin verificarlos. En el ámbito judicial, esto significa que el juez acepta las recomendaciones de la IA sin buscar evidencia que lo confirme (Peluso Lopes, 2026), pudiendo llevar a errores. En el caso de Chubut, por la forma en que el STJ convalida la utilización de la IAGen por los jueces este constituye un riesgo concreto, porque la sola firma de la decisión traslada toda la responsabilidad al juez sin importar cómo se llega a la decisión.

A partir de la posición del STJ de Chubut se manifiesta una tensión concreta entre la existencia de una responsabilidad formal (basta la firma del juez para hacer suyos todos los argumentos) y la transparencia y la efectiva rendición de cuentas requerida cuando se utiliza IAGen en la Justicia. Esto es relevante porque esta interpretación vacía de contenido a las directrices que procuran regular el uso responsable de sistemas de IAGen en el Poder Judicial. ¿Cuál es el sentido de exigir transparencia y control humano si luego se sostiene que no importa cómo fue utilizado el modelo generativo porque la sola firma del juez hace presumir que existió un control significativo, aun cuando no sea posible conocer el grado de intervención del modelo? Si esto es así, ¿qué impediría que un modelo de IAGen redactara íntegramente una sentencia siempre que luego un juez firme el documento? En este sentido, pareciera más acertada la solución propuesta por la Cámara.

Reflexiones finales

Las decisiones adoptadas en el caso Chubut ponen de manifiesto que la adopción de documentos para el uso responsable de la IAGen en la Justicia no es suficiente. Se requieren acuerdos concretos para ponerlos en funcionamiento y para que sean efectivos. Lo que en la práctica puede significar cambiar los modos de pensar la adopción de decisiones judiciales.

La transparencia y el control humano no son meras expresiones de deseo que se plasman en un documento. Implican obligaciones específicas para quienes deciden valerse de modelos generativos en la producción de documentos judiciales. Esto implica que, cuando se decide utilizar IAGen para redactar una sentencia el magistrado debería, tal como lo señalan las Directrices de la UNESCO, documentar sus interacciones con el modelo. Esto constituye una exigencia para resguardar los derechos de los justiciables y para garantizar no solo la trasparencia sino también la existencia de un control efectivo sobre los resultados producidos por la IAGen.