Cuando la IA se inventa los precedentes: lecciones jurídicas de un juicio fallido

La noticia que recoge Gizmodo en Español —un juicio que termina en desastre porque los abogados basan su estrategia en casos que nunca existieron— es un ejemplo casi de manual de lo que en IA llamamos «alucinación»: el modelo genera información verosímil pero falsa, presentada con apariencia de autoridad. En un entorno informal puede quedar en una anécdota; en un procedimiento judicial, se transforma en un problema grave de diligencia profesional y de confianza en el sistema de justicia.

Lo relevante del episodio no es que «la IA se equivoque». Todos sabemos que los modelos generativos, especialmente los generalistas, pueden inventar artículos, conclusiones o doctrina que no está en el texto. Lo verdaderamente preocupante es que esos resultados lleguen al juzgado sin una verificación humana seria. En otras palabras: el fallo no es sólo técnico, sino de flujo de trabajo y de cultura profesional. El abogado sigue siendo responsable de lo que firma, utilice o no utilice IA.

Ese matiz es precisamente el punto de partida de HAL9000.Legal. En sus términos de servicio se indica expresamente que la plataforma «no sustituye el criterio profesional ni constituye asesoramiento jurídico» y que «el usuario debe verificar y validar los resultados antes de su uso profesional o jurídico, asumiendo la responsabilidad por las decisiones que adopte». La herramienta está pensada como apoyo para redactar, revisar y analizar documentación, no como fuente última de verdad.

También hay diferencias de fondo en el tipo de tecnología que se usa. Muchos de los incidentes que vemos en prensa tienen como protagonista a modelos genéricos de terceros, operando en nubes ajenas, a los que se intenta «convertir en abogado» únicamente con instrucciones (el famoso prompt). Este enfoque tiene varias consecuencias jurídicas y técnicas: menos control sobre cómo razona el modelo, mayor propensión a mezclar antecedentes, alegaciones y fallo, y una dependencia total de la política de datos del proveedor externo.

HAL9000.Legal sigue un planteamiento distinto: se apoya en modelos open‑source servidos en infraestructura propia y, cuando se instala en cliente, la ejecución se hace íntegramente en el entorno privado del despacho o entidad. El informe interno de auditoría de privacidad de marzo de 2026 detalla una arquitectura que prioriza la confidencialidad: interfaz web local, secretos y endpoints internos fuera del navegador, OCR, embeddings, búsqueda y transcripción dentro del entorno privado, y persistencia controlada en bases locales. No hay canal de envío a terceros ni uso de los datos para entrenamiento externo.

Esta arquitectura técnica se combina con medidas específicas de protección del dato jurídico: el volumen de uploads se cifra en reposo mediante LUKS, los archivos se eliminan físicamente una vez indexados, se emplean identificadores internos para permitir auditoría y purga, y no se registran contenidos sensibles (prompts, documentos o transcripciones) en los logs. La idea de fondo es sencilla: acercarse tanto como sea razonablemente posible al secreto profesional real en un entorno digital.

En el plano funcional, HAL9000 está ajustado para comportarse como un jurista: más prudencia, más control y menos alucinación. Frente a la IA genérica de terceros —que «puede inventar artículos, conclusiones o doctrina no visible» y «se vuelve imprevisible cuando el contexto es parcial o ambiguo»—, HAL9000 incorpora un postentrenamiento interno propio orientado al razonamiento jurídico, entrenado para no inventar lo que no consta en el texto y para separar hechos, alegaciones, fundamentos y fallo. Uno de sus rasgos distintivos es, precisamente, ayudar a valorar la solidez jurídica del asunto y a contrastar citas antes de redactar o litigar.

Esa capacidad de contraste y de trabajo con documentación extensa es relevante en contextos como el del caso difundido: una IA que se limita a «redactar bonito» a partir de una instrucción generalista tiene muchas más probabilidades de inventar jurisprudencia que una IA diseñada para leer el fondo de autos, localizar precedentes, reordenar fuentes en función de su relevancia y, en su caso, advertir de los límites del material disponible.

A ello se suma la cuestión de dónde se ejecuta la IA y cómo se tratan los datos. HAL9000.Legal se ofrece como IA jurídica privada en España, sin subcontratar el procesamiento con OpenAI, Google ni otros proveedores externos, y con ejecución en servidores propios o en el propio despacho. El tratamiento de datos personales que realiza Abogacía Tecnológica como prestador se limita, según sus términos, a la información necesaria para la facturación y el cumplimiento de obligaciones fiscales, dejando fuera del circuito de terceros los contenidos de los expedientes y documentos que el profesional analiza con la herramienta.

Este diseño tiene implicaciones prácticas claras para la abogacía y la procura: permite integrar la IA en el flujo de trabajo del despacho sin renunciar al control sobre el dato ni depositar la documentación sensible en nubes fuera de la UE; facilita la trazabilidad interna (qué se ha indexado, qué se ha purgado, qué se ha citado); y reduce la exposición a brechas de seguridad o a usos secundarios no deseados de la información del cliente.

Nada de lo anterior exonera al profesional de su deber de diligencia. La lectura técnica y jurídica del caso de las sentencias inventadas no es «no usemos IA», sino «usemos IA adecuada, en condiciones adecuadas y con la supervisión adecuada». Eso se traduce en escoger herramientas especializadas y auditables, entender sus límites —HAL9000 incluido— y mantener un hábito sistemático de verificación: comprobar las resoluciones citadas, contrastar con bases de datos oficiales, revisar que el modelo no está extrapolando más allá de los hechos del caso, etc.

En definitiva, el episodio que ha llegado a los medios sirve como recordatorio de que la cuestión no es si el sector jurídico usará IA, sino cómo lo hará. Hay una diferencia relevante entre delegar la responsabilidad profesional en una caja negra externa y apoyarse en una infraestructura jurídica privada, localizada en España, diseñada para la trazabilidad y el control del dato, y asumida expresamente como herramienta de apoyo, no como asesor de referencia. Esa diferencia es la que marca, en muchos casos, la frontera entre innovación prudente y imprudencia procesal.

Quien quiera profundizar en los detalles del incidente puede consultar la noticia original en Gizmodo en Español, bajo el título «Un juicio terminó en desastre porque los abogados confiaron demasiado en la IA: el juez descubrió que estaban citando casos que nunca existieron», disponible en https://es.gizmodo.com.