IA en tribunales: eficiencia, riesgo de colapso y la importancia de poner límites claros

El titular de ECIJA —“IA en tribunales: ¿Qué ocurre cuando la eficiencia se convierte en colapso judicial?”— resume bien la tensión actual: la IA se presenta como la herramienta capaz de aliviar oficinas saturadas, resolver atascos y acelerar trámites, pero si se integra de forma acrítica en la función jurisdiccional puede generar nuevos frentes de conflicto. La promesa de eficiencia se convierte en riesgo cuando las decisiones que afectan a derechos fundamentales descansan en sistemas poco transparentes, alimentados con datos sensibles y difíciles de auditar tiempo después. Ante esa realidad, la cuestión no es solo cuánto puede acelerar la IA, sino qué tipo de responsabilidad, revisión y trazabilidad se preserva para cada resolución.

Los términos de uso de HAL9000.Legal muestran un enfoque deliberadamente restrictivo para evitar que una herramienta de apoyo se convierta de facto en un decisor oculto dentro de juzgados y tribunales. La plataforma se define como un sistema de asistencia profesional para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia, y elaboración y revisión de documentos jurídicos. Está concebida para que abogados y otros profesionales del Derecho la utilicen bajo su propio criterio y supervisión. Y, de forma explícita, se establece que no está destinada a sustituir la valoración profesional del usuario ni a ser utilizada por autoridades judiciales para adoptar resoluciones, valorar de forma autónoma la prueba, investigar o interpretar los hechos o aplicar el Derecho a un conjunto concreto de hechos en el ejercicio de la función jurisdiccional.

Este límite funcional no impide toda interacción con la Administración de Justicia, pero la acota: el eventual uso por jueces, magistrados u otros profesionales de la Administración se circunscribe a tareas auxiliares o preparatorias —búsqueda documental, anonimizaciones, organización de información—, siempre que no analicen ni evalúen pruebas, no interpreten ni apliquen el Derecho al caso concreto, no formulen recomendaciones sobre el resultado y no influyan materialmente en la decisión. La finalidad prevista del sistema actúa así como salvaguarda: impide que un motor de apoyo documental se convierta, en la práctica, en un mecanismo opaco de “copilotaje” de sentencias.

La noticia de ECIJA alerta sobre un riesgo especialmente sensible: la externalización masiva de tareas jurisdiccionales a sistemas de IA generalista, muchas veces servidos desde infraestructuras fuera de la Unión Europea y entrenados con fines ajenos al servicio público de justicia. En ese contexto, la opción por infraestructuras propias en España y por modelos que no subcontratan el procesamiento de expedientes a terceros ofrece una alternativa con distinta huella jurídica y técnica. En el caso de HAL9000, la memoria disponible recoge que la solución se orienta a entornos privados y dedicados —propios o del cliente—, sin envío de las consultas ni de los documentos a plataformas generalistas externas.

La auditoría de privacidad de HAL9000 detalla una arquitectura pensada para mantener el control local sobre el dato: interfaz web en el entorno del cliente, secretos y endpoints internos fuera del navegador, historial controlado por el propio cliente y procesamiento de OCR, embeddings, búsqueda y transcripción dentro del entorno privado. El volumen de archivos subidos está cifrado en reposo mediante LUKS, los documentos se eliminan físicamente una vez indexados y existen mecanismos de purga gobernados por identificadores internos y políticas de retención. Los modelos utilizados —open‑source, servidos en infraestructura local, con motor de inferencia configurado sin registro de prompts ni respuestas— funcionan sin canal de envío a terceros ni uso de los datos con fines de entrenamiento externo.

En términos de calidad y responsabilidad, la diferencia respecto de la IA generalista también se aprecia en el propio diseño del modelo. HAL9000 no se presenta como un asistente genérico revestido de instrucciones jurídicas, sino como una tecnología con post‑entrenamiento interno propio para adaptar el comportamiento al razonamiento jurídico. El sistema se ha ajustado para reducir la invención de contenidos que no consten en el texto, separar hechos, alegaciones, fundamentos y fallo, y reconocer con claridad sus propios límites, respondiendo con prudencia cuando la información es ambigua o insuficiente. Esa combinación —post‑entrenamiento interno específico y una interfaz pensada para expedientes reales, no para preguntas aisladas— es coherente con un uso profesional donde el abogado o la abogada sigue siendo quien decide.

Un elemento que conecta directamente con el temor al “colapso por IA” es la trazabilidad. La opacidad de las fuentes en muchos sistemas puede derivar en decisiones difíciles de revisar al cabo de unos meses, especialmente si la justificación material de la respuesta no es fácilmente reconstruible. HAL9000 incorpora un enfoque distinto: en un benchmark end‑to‑end sobre 120 consultas, se contabilizaron 794 citas visibles en interfaz y se comprobó que las 794 fuentes se abrían correctamente desde la propia herramienta. La muestra estaba estratificada por civil, penal, social y administrativo, e incluía un “Modo Profundo” con segunda opinión activada. Aunque la trazabilidad verificable no garantiza por sí sola el acierto jurídico en todos los casos, sí aporta una señal de robustez documental y, sobre todo, impide que una afirmación llegue al profesional sin fuente visible y revisable.

Desde esta perspectiva, el verdadero riesgo de que la IA convierta la búsqueda de eficiencia en un nuevo colapso judicial no radica tanto en la mera presencia de tecnología, sino en el tipo de tecnología que se integra y en cómo se gobierna. Un modelo generalista, cerrado a post‑entrenamiento jurídico real, que depende en exceso de instrucciones por prompt y que puede inventar artículos o doctrina no visibles, es más proclive a generar errores críticos difícilmente detectables. En cambio, una herramienta ajustada al trabajo jurídico, que opera en servidores propios en España o en entornos privados del cliente, que no cede operativamente los datos a terceros, que ofrece trazabilidad verificable de las fuentes y que, además, mantiene por diseño la función decisoria en manos de profesionales humanos, encaja mejor con una justicia que quiere ser más eficiente sin renunciar a las garantías.

En definitiva, el debate que plantea ECIJA sobre la IA en tribunales invita a abandonar el falso dilema entre “automatizar” o “no usar IA” y a centrarse en algo más preciso: qué sistemas, con qué límites y bajo qué condiciones de privacidad, trazabilidad y supervisión son compatibles con la función jurisdiccional. En esa transición, soluciones de IA jurídica privada como HAL9000, orientadas a tareas auxiliares, con infraestructura propia en España, sin subcontratación a plataformas generalistas y con un diseño prudente y trazable, pueden servir como referencia de cómo integrar tecnología sin diluir la responsabilidad profesional ni comprometer la confianza en las resoluciones.

Puedes consultar la reflexión completa de la firma ECIJA en su propia web, bajo el título «IA en tribunales: ¿Qué ocurre cuando la eficiencia se convierte en colapso judicial?», disponible en https://www.ecija.com.