“La justicia no puede ser sustituida por la IA”: qué significa realmente y qué lugar deja a herramientas como HAL9000

El titular de Navarra Televisión —“La justicia no puede ser sustituida por la IA”— conecta con un debate recurrente en la profesión: dónde están los límites razonables del uso de sistemas automatizados en decisiones que afectan a derechos, libertades y patrimonio de las personas. Aunque el texto íntegro de la noticia no se muestra, el enfoque es reconocible: preocupación por un escenario en el que algoritmos tomen decisiones con apariencia de objetividad, pero con sesgos opacos, sin posibilidad real de contradicción y sin un responsable humano claramente identificable.

Desde la óptica jurídico‑técnica, el mensaje tiene un trasfondo claro: la justicia, como función estatal y como actividad profesional, implica deliberación, interpretación, ponderación y responsabilidad. Ninguno de esos elementos se puede trasladar íntegramente a una máquina sin degradar las garantías esenciales del proceso. El juez no puede convertirse en mero verificador formal de lo que “dice la IA”, ni el abogado en un repetidor de borradores automáticos sin análisis propio. La IA puede ayudar a leer, ordenar, comparar y sugerir, pero no puede, ni debe, asumir la última palabra.

Este es precisamente el punto en el que conviene distinguir entre discursos de sustitución y modelos de apoyo. HAL9000.Legal se ha conceptualizado explícitamente como herramienta de asistencia, no como instancia de decisión. Sus propios términos de servicio lo dejan claro: no constituye asesoramiento jurídico y no sustituye el criterio profesional, de modo que el usuario sigue siendo responsable de verificar y validar cualquier resultado antes de incorporarlo a un escrito, una estrategia procesal o un informe. En la práctica, esto significa que la IA se utiliza como un instrumento más —como lo es una base de datos de jurisprudencia—, sometido a revisión humana.

A esta separación de roles se suma un elemento que en la noticia apenas suele explicitarse, pero que resulta crítico: la confidencialidad. El trabajo jurídico se apoya en expedientes que contienen datos personales especialmente sensibles, información societaria estratégica y comunicaciones cubiertas por el secreto profesional. Utilizar IA generalista en la nube para procesar esos documentos plantea un riesgo difícil de compatibilizar con la obligación de confidencialidad del abogado. Por ello, HAL9000.Legal se ejecuta en infraestructura propia en España y no envía las consultas ni los documentos a OpenAI, Google u otros proveedores externos, de acuerdo con la información pública disponible en su web.

La auditoría de privacidad de HAL9000 detalla, además, medidas concretas que dan contenido jurídico a ese compromiso: cifrado en reposo del volumen de uploads, eliminación física de los archivos una vez indexados, mecanismos de purga por identificador y ausencia de registro de prompts, documentos o transcripciones en los logs. A esto se añade que los modelos utilizados son open‑source servidos en el entorno del cliente, sin canal de envío de datos para entrenamiento externo. En otras palabras, el despacho mantiene el control técnico y jurídico sobre dónde residen los datos y qué se hace con ellos.

Otro aspecto relevante, en línea con las preocupaciones que suelen inspirar titulares como el de Navarra Televisión, es la trazabilidad del razonamiento. Una de las críticas recurrentes a la IA generalista es su tendencia a mezclar antecedentes, alegaciones y fallo, o a “inventar” doctrina y artículos inexistentes. HAL9000 incorpora un post‑entrenamiento interno orientado a separar mejor hechos, alegaciones, fundamentos y decisión, a trabajar con más prudencia y a ofrecer citas verificables y un mapa de fuentes. No elimina el deber de contrastar la información, pero facilita que el profesional pueda revisar qué hay detrás de cada sugerencia.

Todo ello se traduce en una forma distinta de integrar la IA en el trabajo del abogado. En lugar de lanzar preguntas sueltas a un asistente genérico, HAL9000 está pensado para trabajar con asuntos completos: documentación, estrategia, revisión y borradores en un mismo hilo de trabajo. La herramienta ayuda a analizar documentos extensos, localizar fundamentos útiles, filtrar jurisprudencia relevante y mantener continuidad de contexto, pero siempre dentro de un entorno controlado y con la premisa de que la última decisión corresponde al profesional. Este modelo resulta más compatible con la idea de que la justicia no es automatizable, aunque sí sea técnicamente asistible.

En definitiva, el mensaje “la justicia no puede ser sustituida por la IA” no debería interpretarse como un rechazo frontal a toda tecnología, sino como un recordatorio de los límites: quién decide, quién responde y quién garantiza los derechos en juego. Herramientas como HAL9000.Legal apuntan a una vía intermedia: aprovechar las capacidades de la IA para hacer más manejable la carga documental y analítica de los asuntos jurídicos, reforzando a la vez la privacidad, la trazabilidad y la centralidad del criterio humano. La clave no está en preguntar si la IA va a sustituir a la justicia, sino en cómo se diseña, contrata y usa para que siga estando al servicio de ella. Para más contexto sobre el debate al que alude esta entrada, puede consultarse la información original en Navarra Televisión (https://www.navarratelevision.es).