La finalidad del texto es dotar a los/as jueces/as y magistrados/as de “un marco de actuación claro, homogéneo y coherente” con la normativa nacional y europea en esta materia, respetando en todo momento la independencia judicial y el ejercicio por los miembros de la Carrera Judicial de las funciones jurisdiccionales.
La instrucción, que será publicada en el Boletín Oficial del Estado, advierte de la necesidad de establecer criterios, pautas de uso y principios para la utilización de los sistemas de inteligencia artificial por los jueces/as y magistrados/as en el ejercicio de la actividad jurisdiccional, especialmente los de IA generativa, cuyo empleo puede vulnerar los derechos y libertades de las personas. Y ello, dentro del contexto normativo tanto de la Unión Europea (Reglamento UE 2024/1689, de 13 de junio) como interno (Real Decreto 729/2023, de 22 de agosto; Real Decreto-ley 6/2023, de 19 de diciembre y Real Decreto 817/2023, de 8 de noviembre).
El uso de estos sistemas, según el texto aprobado por el Pleno, que fue elaborado por la Comisión de Modernización e Informática, deberá hacerse, en todo caso, de acuerdo con las previsiones contenidas en la Ley Orgánica del Poder Judicial y en los reglamentos que la desarrollan, en las leyes procesales y otras normas de aplicación y de acuerdo con la Política de uso de la inteligencia artificial en la Administración de Justicia aprobada por el Comité Técnico Estatal de la Administración Judicial electrónica (CTEAJE).
El documento incluye la definición de distintos conceptos, como el “sistema de IA”, al que se refiere como todo sistema basado en máquinas que esté diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación y que infiere de la información de entrada que recibe la manera de generar resultados de salida; o las “herramientas de IA generativa”, sistemas capaces de generar de forma automatizada contenidos a partir de instrucciones formuladas por el usuario; o el “sesgo algorítmico”, que define como la desviación sistemática en los resultados generados por la IA a partir de los datos, modelos o procesos utilizados, pudiendo producir efectos arbitrarios o discriminatorios.
La instrucción determina los principios que deben regir la utilización de las herramientas de inteligencia artificial en el ejercicio de la actividad jurisdiccional, como el principio de control humano efectivo, que implica el constante “control humano, real, consciente y efectivo” por parte de los/as jueces/as y magistrados/as de los sistemas de IA, que no podrán operar de forma autónoma para la toma de decisiones judiciales, la valoración de los hechos o de las pruebas o la interpretación y la aplicación del Derecho.
Entre otros principios, el de “no sustitución de los jueces/as y magistrados/as”, que prohíbe que la IA supla a los miembros de la Carrera Judicial en el ejercicio de la actividad jurisdiccional; el de responsabilidad judicial; el de independencia judicial; el de respeto de los derechos fundamentales y principios de confidencialidad y seguridad y el de prevención de sesgos algorítmicos.
Los miembros de la Carrera Judicial sólo podrán utilizar las aplicaciones de inteligencia artificial, incluidas las herramientas de IA generativa, que les sean facilitadas por las administraciones competentes en materia de Justicia y hayan pasado el control del CGPJ o aquellas que les sean proporcionadas directamente por el órgano de gobierno de los jueces.
Elaboración de borradores de resoluciones judiciales
La
instrucción considera usos permitidos, además de lo que resulte de la normativa
de aplicación, la búsqueda y localización de información jurídica, la
recuperación de antecedentes procesales; el análisis, clasificación y
estructuración de información, documentos y datos con fines de organización,
comprensión o apoyo al estudio del asunto; o elaboración de esquemas, resúmenes
o borradores de trabajo interno, siempre que no tengan carácter decisorio ni
sustituyan la redacción personal.
Los
jueces/as y magistrados/as sólo podrán utilizar borradores de resoluciones
judiciales o procesales generados por sistemas de IA (facilitados por las
Administraciones competentes en materia de Justicia o por el CGPJ) como
instrumentos de apoyo o asistencia. En el ejercicio de la actividad
jurisdiccional, el uso de ese tipo de borradores exigirá siempre una revisión y
validación personal completa y crítica por parte del juez/a y magistrado/o,
quien mantendrá su exclusiva responsabilidad sobre la resolución.
En
todo caso, las herramientas de IA autorizadas no podrán usarse cuando implique
sustitución, automatización o delegación de la toma de decisiones judiciales,
valoración de hechos o pruebas o interpretación y aplicación del Derecho;
tampoco podrán utilizarse resultados generados por inteligencia artificial que
condicionen de manera directa o indirecta la independencia judicial o la
libertad de criterio de los jueces/as y magistrados/as ni podrán incorporarse a
las resoluciones judiciales contenidos generados por IA sin previa valoración
“crítica, completa y personal” del juez/a o magistrado/a.
Los
sistemas de IA tampoco podrán ser utilizados por los miembros de la Carrera
Judicial para el tratamiento de datos personales especialmente protegidos o de
información sujeta a deberes reforzados de confidencialidad; y tampoco con
fines de perfilado de personas, predicción de comportamientos, evaluación de
riesgos o clasificación de sujetos.
