IA en la Justicia: lo que Subijana pide a los jueces y lo que la tecnología debe ofrecer

Cuando desde el Consejo General del Poder Judicial se subraya que la inteligencia artificial «puede contribuir a la eficacia de la Justicia, pero no debe sustituir la capacidad de decisión de jueces y juezas», no se está haciendo una mera declaración de principios: se está trazando la frontera entre lo admisible y lo problemático en el uso de estas herramientas. Eficiencia procesal, mejor acceso a la información y apoyo en tareas repetitivas son objetivos legítimos. Delegar en un sistema automático la valoración de la prueba, la interpretación del Derecho aplicable o la decisión final en un caso concreto, no.

Ese límite, formulado en términos institucionales, tiene una traducción muy concreta en el diseño de soluciones de IA jurídica. En el caso de HAL9000, los propios Términos del Servicio fijan una finalidad prevista estricta: asistencia profesional para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia y elaboración y revisión de documentos. La plataforma se define como herramienta de apoyo bajo criterio y supervisión del profesional, y se excluye expresamente su uso para sustituir la valoración profesional del usuario o para que autoridades judiciales adopten resoluciones, valoren de forma autónoma la prueba o interpreten y apliquen el Derecho a hechos concretos en el ejercicio de la función jurisdiccional.

Esta cautela se extiende de forma específica al eventual uso por jueces, magistrados u otros profesionales de la Administración de Justicia. Los términos de HAL9000 limitan expresamente ese uso a la mera consulta y recuperación de información, búsqueda documental, anonimizaciòn, organización de información y otras tareas auxiliares o preparatorias que no analicen ni evalúen pruebas, no interpreten ni apliquen el Derecho a un conjunto concreto de hechos, no formulen recomendaciones sobre el caso y no influyan materialmente en el resultado de una decisión. Cualquier uso que exceda esos límites queda, según la propia documentación contractual, fuera de la finalidad prevista del sistema. Este enfoque es coherente con la preocupación del CGPJ: la IA puede ayudar en la cocina del trabajo judicial, pero no puede entrar en la sala de deliberación a decidir.

Junto a los límites funcionales, la dimensión de privacidad y control del dato es probablemente el segundo gran eje del debate público. En la práctica, utilizar IA en el entorno judicial o en despachos que manejan expedientes sensibles exige saber, con precisión, dónde se procesan los datos, quién tiene acceso y si se usan o no para entrenar modelos de terceros. La memoria pública de HAL9000 especifica que se trata de una IA jurídica privada, con infraestructura propia en España, sin APIs externas y sin cesión operativa de consultas a plataformas generalistas, y que la solución se ha diseñado para operar en un entorno privado del cliente, con procesamiento local de documentos jurídicos y control estricto de los datos. La auditoría de privacidad describe una arquitectura en la que los adjuntos se cifran en reposo, se eliminan físicamente una vez indexados y existen mecanismos de trazabilidad y purga por identificador.

Este modelo pretende reducir tres riesgos habituales en el uso de IA genérica en entornos jurídicos: la exposición innecesaria del expediente a terceros, la opacidad sobre el destino de los datos y la dificultad para auditar qué se ha hecho con la información. La auditoría de HAL9000 indica que se utilizan modelos open‑source servidos en infraestructura local, sin canal de envío a terceros ni uso de datos para entrenamiento externo, y que el motor de inferencia está configurado sin registrar prompts ni respuestas en logs. A ello se añade una política de logs limitada a eventos técnicos mínimos, con retención gobernada por mecanismos de expiración y purga verificables. Estas características no convierten al sistema en infalible —ninguna herramienta lo es—, pero sí ofrecen un marco más compatible con las exigencias de confidencialidad del ámbito judicial que el uso indiscriminado de servicios de IA generalistas.

Otra preocupación recurrente en la conversación sobre IA y Justicia es la opacidad de las respuestas: afirmaciones sin soporte visible, citas imposibles de comprobar o mezclas confusas entre hechos, alegaciones y fallo. Aquí, la trazabilidad se convierte en un requisito casi tan relevante como la precisión. HAL9000 se ha planteado como tecnología jurídica que trabaja con fuentes revisables, citas verificables y un mapa de fuentes e índice de entidades que permiten seguir el fundamento jurídico y localizar protagonistas del expediente. En una evaluación interna sobre 120 consultas, documentada en la web de AbogaTIC, se verificó que las 794 citas visibles en la interfaz abrían correctamente sus 794 fuentes asociadas. Esa auditoría no garantiza por sí sola la corrección semántica de cada razonamiento, pero sí aporta una señal de robustez documental y, sobre todo, evita que una afirmación llegue al profesional sin fuente visible y revisable. La propia plataforma destaca que no se trata de «otro asistente generalista maquillado para Derecho», sino de un sistema con post‑entrenamiento interno propio orientado a no inventar lo que no consta en el texto y a trabajar con más prudencia y fidelidad documental.

Todo ello solo tiene sentido, en cualquier caso, si se mantiene en primer plano la responsabilidad humana. Los términos del servicio de HAL9000 son claros: la herramienta no constituye asesoramiento jurídico autónomo, no toma decisiones jurídicas y no sustituye el criterio profesional. El usuario —abogado, jurista o, en su caso, miembro de la Administración de Justicia dentro de los límites previstos— debe revisar y validar los resultados antes de utilizarlos. Esta exigencia de supervisión no es un mero descargo de responsabilidad; enlaza directamente con el núcleo de la advertencia del CGPJ: la independencia judicial y la función jurisdiccional no se pueden automatizar.

El debate abierto por la noticia del Poder Judicial no va, por tanto, de si “usar” o no usar IA en la Justicia, sino de cómo se diseña y se gobierna esa IA: arquitectura privada o dependencia de terceros, trazabilidad o cajas negras, herramientas auxiliares o sistemas que aspiran a decidir. La experiencia de soluciones como HAL9000 muestra que es posible construir tecnología jurídica que se mantenga dentro de los márgenes que la propia institución judicial está empezando a dibujar: privacidad reforzada, servidores y control en España, ausencia de subcontratación a IA genérica para el tratamiento de expedientes, trazabilidad real de fuentes y un diseño contractual que prohíbe expresamente el uso para la toma de decisiones jurisdiccionales. En ese marco, la frase de Subijana se convierte casi en una especificación técnica: la IA debe estar al servicio del jurista, no al revés.

La información de partida puede consultarse en la fuente original.