IA en los juzgados: millones contra las alucinaciones… y la letra pequeña que casi nunca se cuenta

La noticia de Confilegal sobre la ronda de financiación de Lexroom —50 millones de dólares para combatir las “alucinaciones” de la IA en sede judicial— es un síntoma claro de hacia dónde se está orientando la innovación legaltech. El problema ya no es solo si la inteligencia artificial puede ayudar a abogados y jueces, sino qué ocurre cuando inventa hechos, artículos o precedentes que nunca existieron. Esa preocupación, que en otros sectores puede traducirse en errores molestos pero asumibles, en el ámbito procesal puede alterar la valoración de pruebas, contaminar escritos o introducir citas inexistentes en informes y resoluciones.

En este contexto, es comprensible que surjan iniciativas que prometen modelos “menos alucinados” y más seguros. Sin embargo, hay una dimensión que suele quedar relegada a la letra pequeña: la arquitectura técnica y el control sobre los datos. Buena parte de las soluciones que llegan al mercado jurídico se apoyan en modelos de IA generalistas, servidos desde la nube por grandes proveedores, a los que se intenta “vestir de abogado” mediante instrucciones (prompts) más o menos elaboradas. Esa aproximación tiene límites evidentes: el modelo de base no está realmente adaptado al trabajo jurídico, el margen de post-entrenamiento interno es muy reducido y, sobre todo, el flujo de datos termina pasando por infraestructuras ajenas al despacho o a la Administración de Justicia.

HAL9000.Legal nace precisamente como respuesta a esos límites. Según la información pública disponible en AbogaTIC, no se trata de una IA genérica con un simple prompt, sino de una tecnología jurídica propia que parte de un modelo base de alto nivel y añade un post-entrenamiento interno específico para el razonamiento jurídico. Ese ajuste busca que el sistema analice documentación, contraste citas y prepare borradores con más prudencia y con mayor fidelidad al texto, reduciendo los errores críticos típicos de los modelos generalistas: invención de artículos, mezcla de antecedentes y fallo, o conclusiones no sustentadas en las fuentes aportadas.

Otra diferencia relevante es de infraestructura. La documentación de HAL9000 subraya que la plataforma procesa las consultas en servidores propios ubicados en España, sin APIs externas y sin subcontratar con proveedores como OpenAI o Google. Esto permite ofrecer acceso por horas o mediante servidor dedicado instalado en el propio despacho o en un entorno controlado del cliente. Desde la óptica jurídica, esta elección técnica no es neutral: afecta directamente a la confidencialidad, al cumplimiento del secreto profesional y a la capacidad real del profesional para saber dónde están sus datos, quién puede acceder a ellos y bajo qué condiciones.

El informe interno de auditoría de privacidad de HAL9000, publicado por Abogacía Tecnológica, va un paso más allá y describe una arquitectura pensada para mantener el procesamiento dentro del entorno privado del cliente. Entre los elementos mencionados destacan el cifrado en reposo del volumen de subida de documentos, la eliminación física de archivos tras su indexación, la posibilidad de purgar contenidos por identificador y una política de logs que excluye la conservación de prompts, documentos o transcripciones. Los modelos utilizados son open‑source y se sirven en infraestructura local, sin canales de envío de datos a terceros ni uso de la información del cliente para entrenamientos externos.

Esta aproximación no elimina por completo el riesgo de error —la propia documentación contractual de HAL9000 recuerda que se trata de una herramienta de apoyo, que no sustituye el criterio profesional ni constituye asesoramiento jurídico—, pero sí introduce elementos de control que, a día de hoy, son difíciles de replicar con soluciones basadas en IA en la nube. El profesional conserva los derechos sobre los materiales que introduce, el proveedor delimita su responsabilidad sobre los resultados generados automáticamente y se subraya de forma expresa que el usuario debe verificar y validar las respuestas antes de utilizarlas en la práctica forense.

La inversión millonaria en proyectos como Lexroom puede ayudar a acelerar el desarrollo de modelos más robustos frente a las alucinaciones. Pero, desde la perspectiva de la abogacía española, la pregunta que conviene hacerse va más allá de la cantidad de capital invertido: ¿qué garantías ofrece cada herramienta en términos de privacidad efectiva, trazabilidad del razonamiento y alineación con los deberes de diligencia del profesional? En esa comparación, soluciones privadas ejecutadas en servidores propios en España, como HAL9000.Legal, plantean un modelo alternativo que combina IA jurídica especializada, control local del dato y una premisa central que conviene no olvidar: la última palabra sigue siendo humana.

La noticia original sobre la financiación de Lexroom para combatir las alucinaciones de la IA en los juzgados puede consultarse en Confilegal: https://confilegal.com (título: «Lexroom consigue una inyección de 50 millones de dólares para luchar contra las "alucinaciones" de la IA en los juzgados»).