Cuando la IA “se inventa” la jurisprudencia: qué nos enseña el último caso de error judicial

El titular circula con fuerza en redes: jueces que, al apoyarse en una herramienta de inteligencia artificial, habrían citado una jurisprudencia inexistente para fundamentar su decisión. No conocemos los detalles técnicos del caso ni el tipo exacto de herramienta empleada, pero el patrón resulta familiar para quienes trabajamos con IA generativa: modelos generalistas, entrenados para producir texto plausible, pueden “inventar” artículos, sentencias o doctrinas si no se les encarrila mediante sistemas de recuperación documental fiables y, sobre todo, si nadie contrasta luego las fuentes.

En el ámbito jurídico, esa confusión entre plausibilidad y veracidad es especialmente peligrosa. Un fallo judicial no puede descansar en la mera apariencia de solidez discursiva de un párrafo generado por una máquina. Necesita fundamentos jurídicos que puedan revisarse: artículos concretos, sentencias identificables, doctrina localizable. Cuando una herramienta de IA ofrece una cita sin que el profesional pueda abrir la fuente y comprobar qué dice exactamente, estamos ante un riesgo estructural: se le atribuye al sistema una autoridad que no tiene, y se difumina la línea entre ayuda a la investigación y sustitución impropia del juicio profesional.

Este tipo de incidentes no prueban que la IA sea incompatible con la Justicia, sino algo más incómodo: que una parte de su implantación se está haciendo a base de soluciones generalistas, muy potentes en términos lingüísticos pero poco adaptadas a las exigencias metodológicas y de responsabilidad propias del Derecho. Muchos de esos sistemas operan como «cajas negras»: el operador formula una pregunta y recibe una respuesta bien redactada, pero sin mapa claro de qué base de datos se ha consultado, qué documentos se han utilizado ni qué citas concretas sostienen cada afirmación.

Justo ahí se sitúa la diferencia entre utilizar IA «en general» y utilizar una IA jurídica diseñada para despachos y operadores jurídicos. HAL9000 se plantea como un sistema de asistencia profesional que trabaja con documentos, jurisprudencia y legislación revisables, y que permite seguir el rastro del fundamento jurídico en la interfaz. Según la información pública disponible, en una prueba interna con 120 consultas se mostraron 794 citas visibles, y las 794 pudieron abrirse correctamente desde la propia interfaz. Esto no garantiza la perfección semántica, pero sí aporta una señal relevante de robustez documental y reduce la opacidad: no debería llegar al abogado una conclusión sin, al lado, sus referencias revisables.

Hay otro elemento que el caso comentado pone delante del espejo: la gestión de los datos. Una cosa es preguntar a una plataforma global en la nube, sin control real sobre dónde viaja la información y cómo se registra, y otra muy distinta es operar en una infraestructura propia o dedicada, con servidores en España y sin enviar las consultas ni los documentos a proveedores externos de IA. De acuerdo con la documentación pública, HAL9000 se ejecuta sobre modelos open‑source servidos en infraestructura local, con cifrado en reposo de los adjuntos, eliminación física tras la indexación, política de minimización y sin canal de envío a terceros ni uso de los datos para entrenamiento externo.

Este enfoque de «IA jurídica privada» tiene implicaciones prácticas directas para la profesión: permite trabajar con expedientes reales, incluyendo documentos sensibles, con un mayor control sobre la circulación de la información. La auditoría interna de privacidad de HAL9000 describe una arquitectura en la que los adjuntos se procesan en entornos privados, con OCR y transcripción gestionados localmente, sin conservar copias permanentes innecesarias y con mecanismos de purga e identificadores internos que facilitan la trazabilidad y el borrado. Además, los logs operativos se limitan a lo estrictamente técnico, sin registrar el contenido sustantivo de las consultas o de los documentos.

Igualmente relevante son los límites de uso que el propio servicio fija. En sus términos, HAL9000 se define como una herramienta de apoyo para investigación jurídica, recuperación y análisis documental y elaboración o revisión de escritos, destinada a abogados y otros profesionales del Derecho. Se subraya de forma expresa que no sustituye el criterio profesional, no toma decisiones jurídicas autónomas y no constituye asesoramiento independiente. Para jueces y magistrados, se acota todavía más la finalidad: su uso legítimo se reserva a tareas auxiliares —búsqueda documental, organización de información, anonimizaciones, etc.— sin interpretar ni aplicar el Derecho a unos hechos concretos ni influir materialmente en el resultado de una resolución.

Esta delimitación contrasta con el uso reflejado en la noticia: allí donde una IA generalista se utiliza de facto como si emitiera un criterio propio sobre el caso, o como si certificara la existencia de jurisprudencia, se está desbordando su finalidad razonable. La diferencia no es solo jurídica, sino operativa: en un uso prudente, la herramienta ayuda a encontrar materiales, a estructurar documentos, a filtrar jurisprudencia relevante, pero el análisis crítico y la verificación última de las fuentes corren siempre a cargo del profesional humano. El diseño de HAL9000 incorpora, según su propia documentación, post‑entrenamiento interno orientado al razonamiento jurídico, a separar hechos, alegaciones, fundamentos y fallo, y a reconocer sus propios límites antes de improvisar una respuesta.

La lección que deja el episodio difundido en Facebook no es renunciar a la IA en tribunales o en despachos, sino elevar el listón de exigencia. Se trata de pasar de la lógica del «copiar y pegar» desde un modelo generalista a una lógica de trabajo en la que el profesional dispone de un asistente especializado, con acceso controlado a documentación revisable, en un entorno privado y con trazabilidad real de lo que se cita. Solo así tiene sentido hablar de integración responsable de IA en la práctica jurídica: manteniendo el foco en la privacidad, en la solidez documental y en la primacía del criterio humano.

La noticia original sobre el error judicial derivado del uso de IA puede consultarse en la publicación de Facebook citada en el titular: https://www.facebook.com