Sentencias judiciales e inteligencia artificial: qué está en juego en el proceso

La noticia de Comercio y Justicia titulada «Sentencias judiciales versus inteligencia artificial: aspectos procesales y cuestiones legales» encaja en un momento en el que los tribunales de distintos países —incluida España— empiezan a enfrentarse a un dilema práctico: cómo integrar la IA en la administración de justicia sin comprometer principios básicos del proceso. La cuestión no se reduce a un conflicto “sentencias humanas versus decisiones algorítmicas”, sino a algo más matizado: qué partes del trabajo jurisdiccional pueden apoyarse razonablemente en sistemas de IA y cuáles deben permanecer bajo control directo e indelegable del juez o magistrado.

Desde el punto de vista procesal, la preocupación central es doble. Por un lado, la motivación y transparencia de las resoluciones: si un razonamiento está fuertemente influido por una recomendación automatizada, las partes deben poder entender de dónde sale esa recomendación y con qué límites se ha utilizado. Por otro, la integridad de la prueba y la tutela judicial efectiva: cuando la IA interviene en la búsqueda de jurisprudencia, en el análisis de documentos o incluso en la valoración preliminar de estrategias, el sistema no puede convertirse en una caja negra cuya lógica sea inaccesible a los litigantes.

Aquí entra en juego la arquitectura tecnológica sobre la que se construyen las herramientas de IA. El uso de modelos generalistas en la nube, con datos enviados a terceros y difícil control sobre su posterior tratamiento, plantea problemas evidentes en entornos como el judicial: confidencialidad de expedientes, posible reutilización de datos para entrenamiento externo, imposibilidad de auditar con precisión qué ha ocurrido con un documento sensible. Estas tensiones son especialmente relevantes cuando se trata de sentencias o de borradores de resoluciones, donde la filtración de información o la opacidad en la toma de decisiones tiene un impacto directo en derechos fundamentales.

Frente a este modelo, se están consolidando soluciones de IA jurídica privada que buscan alinear la tecnología con las exigencias del proceso. HAL9000.Legal es un ejemplo desarrollado en España: una plataforma de IA jurídica privada que no envía los datos a terceros, funciona sin APIs externas y opera sobre infraestructura propia en territorio español. Según su documentación de auditoría de privacidad, el sistema procesa documentos y adjuntos en un entorno controlado, con cifrado en reposo del volumen de uploads, eliminación física de archivos una vez indexados y mecanismos de purga por identificador, de modo que se minimiza la retención innecesaria de información.

Esta aproximación tiene consecuencias jurídicas directas. Al no existir canal de envío a proveedores externos de IA ni uso de los datos del expediente para entrenamiento fuera del entorno del cliente, se reduce de forma significativa el riesgo de fugas de información y se facilita el cumplimiento de deberes de secreto profesional y de confidencialidad. La propia arquitectura prevé que el modelo principal —actualmente Qwen3.5 122B‑10B, con motor de inferencia vLLM— se ejecute sin registro de prompts ni respuestas en logs, de manera que los contenidos sensibles no se archivan en registros técnicos. Del mismo modo, el OCR, la indexación y la transcripción de audio o vídeo se realizan con contenedores locales, eliminando los archivos temporales una vez terminado el procesamiento.

Otro punto clave en el debate procesal es la trazabilidad. Si un abogado, un juez o un letrado de la Administración de Justicia utiliza IA para preparar un escrito o un borrador de sentencia, resulta esencial poder identificar qué fuentes doctrinales, normativas o jurisprudenciales respaldan cada afirmación. HAL9000.Legal incorpora un mecanismo de trazabilidad mediante citas verificables, un mapa de fuentes y un índice de entidades que permiten seguir el fundamento jurídico de las respuestas y localizar a los protagonistas de un expediente. En un benchmark interno, sobre 120 consultas y 794 citas visibles, la plataforma abrió correctamente 794 de 794 fuentes verificadas desde la propia interfaz, lo que constituye un indicio relevante de robustez documental y de reducción de opacidad en el flujo de trabajo.

Desde la perspectiva de reparto de responsabilidades, otro aspecto subrayado por la noticia de Comercio y Justicia es el riesgo de confundir la herramienta con el asesoramiento. En este punto, los propios Términos y Condiciones de HAL9000.Legal son explícitos: se trata de una herramienta de apoyo basada en IA generativa que no sustituye el criterio profesional, no toma decisiones jurídicas y no constituye asesoramiento jurídico autónomo. El usuario —abogado, procurador, juez, etc.— debe revisar y validar los resultados antes de utilizarlos, asumiendo la responsabilidad por las decisiones que adopte. Esta delimitación resulta crucial para encajar el uso de IA en el marco de la tutela judicial efectiva: la decisión sigue siendo humana; la IA aporta, como mucho, capacidad de análisis y de organización de la información.

En cuanto al razonamiento jurídico, la discusión doctrinal sobre IA y sentencias suele poner el foco en la tendencia de algunos modelos generalistas a “inventar” artículos, mezclar antecedentes con fundamentos o confundir alegaciones de parte con hechos probados. Para mitigar estos riesgos, HAL9000.Legal no se limita a aplicar un prompt genérico sobre un modelo abierto, sino que ha sido objeto de un postentrenamiento interno específico para el trabajo jurídico. Esta adaptación busca que el modelo aprenda a separar hechos, alegaciones, fundamentos y fallo, a trabajar con mayor fidelidad al texto y a reconocer mejor sus propios límites, respondiendo con mayor prudencia cuando la información es insuficiente o el contexto es ambiguo.

Todo ello está orientado a un caso de uso muy concreto: no tanto responder a una pregunta aislada, sino trabajar con asuntos completos. La plataforma permite manejar documentos extensos, estrategias procesales, revisiones y borradores dentro de un mismo hilo de trabajo, con funcionalidades adicionales como anonimización de documentos, transcripción de vídeo, área de consulta con indicaciones y grafos de relaciones para estructurar expedientes complejos. La finalidad no es sustituir al profesional, sino ofrecerle una herramienta que simplifique el manejo de grandes volúmenes de información y facilite un análisis más ordenado y verificable, compatible con las exigencias del proceso.

En el fondo, la pieza de Comercio y Justicia apunta a una pregunta transversal: si, a medida que la IA se generalice en despachos y juzgados, seguiremos teniendo procesos reconocibles en términos de garantías, contradicción y motivación de las decisiones. La experiencia de soluciones como HAL9000.Legal, ya utilizada por jueces y magistrados en España precisamente por sus políticas de cero retención, la ausencia de envío de datos a proveedores externos y su enfoque en fuentes revisables, sugiere un camino posible: incorporar IA en la práctica procesal de forma gradual, con infraestructuras bajo control, limitando su rol a apoyo técnico‑jurídico y reforzando la supervisión humana en todos los tramos donde se juegan derechos fundamentales.

En definitiva, la tensión «sentencias judiciales versus inteligencia artificial» no debería plantearse como un enfrentamiento binario, sino como una cuestión de diseño institucional y tecnológico. Las soluciones que operan con servidores propios en España, sin subcontratación con IA genérica, con auditorías de privacidad, trazabilidad de fuentes y sometidas a la validación del profesional del Derecho, son las que mejor se alinean con lo que previsiblemente exigirán los órganos jurisdiccionales. Mientras la discusión doctrinal sobre los límites de la IA en el proceso continúa, conviene seguir de cerca experiencias concretas y prácticas que permitan compatibilizar eficiencia y garantías.

Puedes consultar la noticia original de Comercio y Justicia, «Sentencias judiciales versus inteligencia artificial: aspectos procesales y cuestiones legales», en su página web: https://comercioyjusticia.info