La Suprema Corte de Justicia bonaerense avanzó en la regulación del uso de la inteligencia artificial (IA) dentro del Poder Judicial y, entre las medidas más relevantes, dispuso prohibir a sus integrantes el uso de Inteligencia Artificial para procesar información judicial sensible o vinculada con investigaciones en curso.
La restricción -que busca evitar que datos personales o información reservada puedan ser incorporados al entrenamiento de modelos tecnológicos que se encuentran fuera del control institucional- forma parte de un proyecto de reglamento que el máximo tribunal sometió a consulta pública hasta el próximo 7 de agosto.
La iniciativa se enmarca en el proceso de modernización tecnológica que impulsa la Corte y procura establecer reglas para la incorporación progresiva de sistemas de IA en la administración de justicia. Su objetivo es aprovechar las ventajas que ofrecen estas herramientas sin comprometer derechos fundamentales ni la seguridad de la información.
El proyecto parte de un principio central: la función jurisdiccional es “indelegable e insustituible”. En consecuencia, establece que bajo ninguna circunstancia podrá transferirse a sistemas de inteligencia artificial la toma de decisiones judiciales, la valoración de pruebas ni la elaboración del razonamiento jurídico que sustenta sentencias o resoluciones.
La resolución también advierte sobre los riesgos asociados a estas tecnologías, entre ellos la reproducción de sesgos, la generación de errores o la producción de contenidos inexactos. Por ese motivo, la Corte considera necesario fijar pautas claras para su utilización dentro de los tribunales.
Además, el texto deja expresamente establecido que el uso de herramientas de IA no libera a jueces, funcionarios o agentes judiciales de la responsabilidad sobre el contenido, la validez y la legalidad de los actos en los que intervengan estos sistemas. Los usuarios deberán ejercer un control sustantivo y documentado sobre los resultados obtenidos.
La propuesta contempla, sin embargo, la posibilidad de utilizar inteligencia artificial para tareas de apoyo, como la gestión de procesos, el análisis de datos, la organización de información y la sistematización de jurisprudencia, siempre bajo supervisión humana.
Para acompañar la implementación de estas políticas, la Suprema Corte creó una Comisión de Gobernanza y Uso de Inteligencia Artificial, que tendrá a su cargo la supervisión de la iniciativa y el seguimiento de las futuras aplicaciones tecnológicas dentro del sistema judicial.
Mientras dure la consulta pública, magistrados, funcionarios, agentes judiciales, colegios profesionales, universidades y otros interesados podrán presentar observaciones y sugerencias a través de un formulario habilitado por el Tribunal. El proceso apunta a definir un marco institucional y jurídico que permita incorporar estas herramientas sin que reemplacen el criterio ni la responsabilidad de quienes administran justicia.