‘Justicia artificial’ en RTVE: cuando la IA sustituye al juez… en la ficción

RTVE ha programado dentro de ‘Somos cine’ la película ‘Justicia artificial’, definida como un thriller distópico en el que la inteligencia artificial sustituye al sistema judicial. Protagonizada por Verónica Echegui, Tamar Novas, Alba Galocha y Alberto Ammann, la cinta explora un escenario extremo: un modelo de IA que no sólo asiste, sino que decide, desplaza al juez y condiciona de raíz los derechos de las personas sometidas a ese sistema. La obra se inscribe en una tradición ya conocida de ficción jurídica y tecnológica: exagerar el futuro para señalar los riesgos del presente.

Desde una óptica jurídico-tecnológica, la premisa de ‘Justicia artificial’ es útil como provocación intelectual. Lleva al límite algunas tensiones que ya estamos viendo: uso de algoritmos para predicción de riesgos, herramientas automatizadas de apoyo a la decisión judicial o sistemas que ordenan y priorizan expedientes. La película hace visible qué ocurriría si se cruzaran varias líneas rojas a la vez: decisiones sin motivación comprensible, opacidad total del modelo, ausencia de control humano significativo y dependencia estructural de una infraestructura tecnológica que nadie del sistema de justicia controla realmente.

Si trasladamos esa ficción al marco jurídico español y europeo, el choque con los principios básicos es evidente. La independencia judicial, el derecho a un juez imparcial, la motivación de las resoluciones, el derecho de defensa o el principio de contradicción se degradarían si la ‘última palabra’ la tuviera un sistema automatizado ininteligible. Además, el uso de una IA centralizada para decisiones masivas implicaría un tratamiento intensivo de datos personales (incluso de categorías especialmente protegidas), lo que, bajo el Reglamento General de Protección de Datos y el Reglamento europeo de IA, exigiría un nivel de transparencia, control y mitigación de riesgos que va mucho más allá de lo que hoy ofrecen los modelos generalistas en la nube.

En paralelo al debate cinematográfico, el mercado ha visto proliferar soluciones de IA para abogados apoyadas en modelos generalistas de terceros. La fórmula típica consiste en tomar una IA general (no específicamente jurídica), alojada en la nube y gestionada por grandes proveedores, y tratar de ‘convertirla’ en jurista mediante instrucciones o prompts. El propio material de HAL9000 subraya los límites de ese planteamiento: estos modelos suelen venir cerrados —no permiten un post-entrenamiento interno real adaptado al trabajo jurídico—, dependen en exceso de las instrucciones que se les da en cada consulta y pueden inventar artículos, doctrina o conclusiones no visibles en el texto. Todo ello se combina con una infraestructura donde el profesional no tiene control efectivo sobre dónde se procesan sus datos ni con qué otros fines se utilizan.

El enfoque de HAL9000 nace precisamente de esas preocupaciones. Según la información pública de Abogacía Tecnológica, HAL9000 es una IA jurídica privada que no envía los datos del despacho a terceros, y que procesa las consultas en servidores propios, ubicados en España, sin subcontratar con OpenAI, Google ni otros proveedores de IA genérica. El servicio se ofrece bien como acceso temporal a una plataforma (por horas), bien mediante servidores dedicados para despachos, de forma que el control de la infraestructura y de los flujos de datos permanece en manos del proveedor y/o del propio cliente, sin dependencias con APIs externas. Esto se acerca más al ideal, tantas veces repetido por la abogacía, de “tener la IA en casa” cuando se trabaja con información especialmente sensible.

Desde el punto de vista jurídico, otro elemento relevante es la naturaleza del servicio. Los términos de HAL9000 son claros: se trata de una herramienta de apoyo basada en IA que no constituye asesoramiento jurídico ni sustituye el criterio profesional. El usuario asume la responsabilidad de verificar y validar los resultados antes de utilizarlos. Este planteamiento encaja mejor con la imagen de la IA como ‘asistente diligente’ que con la de ‘juez artificial’ que sugiere la película. HAL9000 está diseñado para ayudar a trabajar asuntos completos: analizar documentación, localizar fundamento útil, contrastar citas y preparar borradores con continuidad de contexto, pero siempre bajo la supervisión humana del abogado o jurista que lo usa.

En el apartado técnico-jurídico, la documentación pública de HAL9000 destaca varios elementos de diseño orientados a la prudencia y a la trazabilidad. Se indica que el sistema parte de un modelo base de alto nivel, sobre el que se ha realizado un post-entrenamiento interno específico para el razonamiento jurídico. El objetivo es reducir la improvisación típica de los modelos generalistas y minimizar errores críticos: entrenar al modelo para no inventar lo que no consta en el texto, separar hechos, alegaciones, fundamentos y fallo, y reconocer sus límites. Todo ello se complementa con una arquitectura de recuperación aumentada con búsqueda vectorial y un sistema de reordenación especializado en contexto legal, pensado para localizar precedentes, normas y documentación interna de forma más precisa y verificable.

La auditoría interna de privacidad publicada por Abogacía Tecnológica aporta detalles adicionales sobre cómo se protege la información procesada por HAL9000. El documento describe una interfaz web local que gestiona adjuntos y sesiones y mantiene los secretos y endpoints internos fuera del navegador, así como un histórico visible controlado por el cliente en su entorno local. El flujo de documentos incluye cifrado en reposo del volumen de uploads mediante LUKS, eliminación física de archivos una vez indexados (minimización de datos) y mecanismos para auditar y purgar información mediante identificadores internos. Los modelos utilizados son open‑source, servidos en infraestructura local o privada, sin canal de envío a terceros ni uso de los datos del cliente para entrenamiento externo. OCR, embeddings, búsqueda y transcripción se ejecutan dentro de ese mismo entorno controlado.

Un área especialmente sensible en despachos y departamentos jurídicos es la transcripción de audio y vídeo —por ejemplo, vistas grabadas, declaraciones o reuniones— y el tratamiento de documentación escaneada. Según la auditoría, HAL9000 integra un servicio local de transcripción (basado en Whisper) que procesa el audio/vídeo exclusivamente durante la tarea, sin conservar los archivos tras finalizar. Los documentos escaneados siguen un patrón similar: se procesan en directorios temporales y se eliminan una vez realizado el OCR, sin mantener copias permanentes. Además, la política de logs descarta registrar contenidos sensibles (prompts, documentos o transcripciones) y limita los registros a eventos técnicos mínimos, con retención gobernada por tiempos de vida y mecanismos de purga. Todo ello apunta a una concepción de la IA jurídica donde el secreto profesional y la minimización de datos no son un añadido, sino una pieza central del diseño.

Si superponemos la trama de ‘Justicia artificial’ a este tipo de arquitectura, la distancia es clara. La película presenta una justicia dominada por una caja negra centralizada, sin explicabilidad ni control humano real. HAL9000, en cambio, se plantea como una tecnología de apoyo bajo la dirección del jurista, alojada en servidores propios o en entornos controlados, sin cesión de datos a terceros y con mecanismos de trazabilidad interna. Jurídicamente, la diferencia está en quién ostenta la responsabilidad de la decisión: mientras la distopía desplaza el poder al algoritmo, el enfoque de IA jurídica privada insiste en que la decisión sigue siendo humana, apoyada en una herramienta que debe comportarse con prudencia y dentro de los límites legales y deontológicos.

El debate que suscita ‘Justicia artificial’ no es, por tanto, si debemos aceptar o rechazar en bloque la IA en justicia, sino cómo la integramos. La experiencia muestra que utilizar modelos generalistas en la nube, concebidos para un uso masivo, sin control sobre el entrenamiento ni sobre los destinos de los datos, es una mala idea cuando lo que está en juego es la libertad de las personas o la confidencialidad de un asunto penal, mercantil o laboral. Diseñar soluciones específicas, con servidores en España, sin APIs externas, con auditorías de privacidad públicas y con una clara delimitación de responsabilidades —como hace HAL9000 en su documentación— no elimina todos los riesgos, pero se aproxima más a los estándares de secreto profesional real que exige la abogacía. En ese punto intermedio, entre la ficción totalitaria y la improvisación tecnológica, es donde puede asentarse una IA jurídica compatible con el Estado de Derecho.

La emisión de ‘Justicia artificial’ por RTVE es una buena oportunidad para que la abogacía, la judicatura y el resto de operadores jurídicos reflexionen sobre el papel que queremos asignar a la inteligencia artificial en nuestro sistema. No se trata de aspirar a un juez-robot omnisciente, sino de exigir herramientas de apoyo técnicamente solventes, transparentes en su arquitectura, respetuosas con la privacidad y diseñadas para trabajar siempre bajo supervisión humana efectiva. Todo lo demás es acercarse, paso a paso, a la distopía que la película convierte en espectáculo. Puede consultarse la ficha del programa y acceder al contenido en la web de RTVE: https://www.rtve.es.