IA generativa y justificación de las decisiones judiciales: límites de su uso en la automatización del razonamiento jurídico

Abstract

El artículo examina críticamente si se justifica el uso de inteligencia artificial (IA) generativa en la automatización de la justificación de las decisiones judiciales. Partiendo del giro argumentativo del derecho y del carácter estructural que tiene la justificación para la legitimidad de la función jurisdiccional, se analizan las tensiones que introduce la incorporación de modelos de lenguaje de gran tamaño (LLM) en la elaboración, control y comunicación de las sentencias. Sobre esa base, se abordan tres cuestiones: las exigencias de justificación interna y externa de las decisiones judiciales; los usos específicos que pueden asumir los sistemas de IA generativa en tareas intensivas en lenguaje jurídico; y los fundamentos técnicos y epistemológicos de las objeciones a la automatización de la justificación. Se sostiene que la IA generativa puede desempeñar un papel instrumental relevante como herramienta de apoyo para organizar el razonamiento, analizar precedentes, detectar inconsistencias y mejorar la calidad formal de los borradores, siempre bajo supervisión humana significativa y con adecuados mecanismos de trazabilidad. Sin embargo, se concluye que la automatización fuerte de la justificación judicial no resulta compatible con los estándares de justificación propios del Estado constitucional de derecho, debido a la naturaleza estadística y opaca de estos sistemas, a los riesgos de sesgos y al desplazamiento de la agencia judicial que acarrea el sesgo de automatización. En consecuencia, se justifica únicamente un uso auxiliar y limitado de la IA generativa, sin delegar en ella la responsabilidad última por las razones de la decisión.

This article critically examines whether the use of generative artificial intelligence (AI) to automate the justification of judicial decisions is normatively acceptable. Building on the argumentative turn in law and on the structural role that justification plays in the legitimacy of the judicial function, it analyses the tensions created by the incorporation of large language models (LLMs) into the drafting, control and communication of judgments. On this basis, it addresses three questions: the requirements of internal and external justification of judicial decisions; the specific uses that generative AI systems may have in languageintensive legal tasks; and the technical and epistemological grounds of the objections to the automation of judicial justification. it argues that generative AI can play a relevant instrumental role as a support tool to structure reasoning, analyse precedents, detect inconsistencies and improve the formal quality of drafts, provided there is meaningful human oversight and adequate traceability mechanisms. However, it concludes that strong automation of judicial justification is not compatible with the standards of justification required in a constitutional rule-of-law State, because of the statistical and opaque nature of these systems, the risks of bias and the displacement of judicial agency brought about by automation bias. Consequently, only an auxiliary and limited use of generative AI is justified, without delegating to it the ultimate responsibility for the reasons that ground the decision.