¿Quién usa la IA en la justicia… y con qué garantías? Lecciones desde Colombia y el enfoque de HAL9000.Legal
La expansión de la inteligencia artificial en la justicia plantea una pregunta incómoda: no solo quién la usa, sino con qué controles, bajo qué infraestructuras y con qué supervisión humana. A propósito del análisis de Dejusticia sobre el uso de IA en la justicia colombiana, contrastamos ese debate con un modelo alternativo: IA jurídica privada, sin envío de datos a terceros, con servidores en España y trazabilidad verificable como la de HAL9000.Legal.
Transparencia editorial: este artículo es un resumen y análisis elaborado con apoyo de herramientas de inteligencia artificial a partir de fuentes identificadas. Ha sido sometido a revisión y control editorial humano, pero puede contener errores y no constituye asesoramiento jurídico.
El trabajo de Dejusticia sobre quién usa la inteligencia artificial en la justicia colombiana se inserta en un debate que ya es global. Más allá de la novedad tecnológica, la cuestión central es quién diseña y controla las herramientas, con qué estándares de transparencia se aplican en procesos judiciales y qué margen de supervisión real mantienen jueces, magistrados y profesionales del Derecho. En sistemas donde la carga de trabajo es elevada y los recursos son limitados, la tentación de delegar en la IA tareas que afectan a derechos fundamentales es evidente, y por eso mismo resulta crucial entender la arquitectura institucional y técnica que hay detrás de cada despliegue.
Uno de los riesgos más señalados en los debates sobre IA en la justicia –también en América Latina– es la dependencia estructural de plataformas generalistas, generalmente operadas desde otros países, con modelos cerrados y poca información sobre cómo se entrenan, qué datos reciben y qué registro se hace de las consultas. Este tipo de integración puede resultar ágil a corto plazo, pero introduce interrogantes difíciles de conciliar con las exigencias de protección de datos, secreto profesional y deber de reserva que rodean a la actividad jurisdiccional y a la abogacía.
En España están emergiendo alternativas que tratan de abordar estos problemas desde el diseño. HAL9000.Legal se presenta como una IA jurídica privada, con infraestructura propia en España, sin uso de APIs externas para procesar las consultas y pensada para operar en entornos donde el control del dato es prioritario. De acuerdo con la información pública disponible, la plataforma no envía las consultas a proveedores generalistas de IA y puede desplegarse incluso en entornos dedicados para despachos o clientes institucionales, lo que reduce la exposición de expedientes y documentos sensibles a terceros.
Esta aproximación se apoya en varios elementos diferenciadores. Por un lado, HAL9000.Legal no se limita a envolver un modelo generalista con instrucciones, sino que incorpora un post-entrenamiento interno específico para trabajo jurídico. Ese ajuste está orientado a fomentar la prudencia, la fidelidad al texto y la reducción de errores críticos, enseñando al sistema a separar hechos, alegaciones, fundamentos y fallo, y a evitar la invención de artículos, conclusiones o doctrina que no estén visibles en las fuentes con las que se trabaja. Esta orientación resulta especialmente relevante si se compara con el comportamiento típico de modelos generalistas que, según se describe, pueden mezclar con facilidad alegaciones y antecedentes o volverse imprevisibles cuando el contexto es parcial.
Otro aspecto destacable, frente a la opacidad que a menudo se critica en la IA aplicada a la justicia, es la insistencia en la trazabilidad verificable. HAL9000.Legal ha sido sometido a una evaluación end-to-end que mide lo que ve el abogado en la interfaz real, no solo la respuesta de una API aislada. En una muestra de 120 consultas, se registraron 794 citas visibles y, según el informe, 794 de 794 fuentes se abrieron correctamente desde la interfaz. La propia documentación matiza que esta trazabilidad no equivale a una garantía absoluta de corrección semántica, pero sí constituye una señal de robustez documental y, sobre todo, impide que llegue al profesional una afirmación sin apoyo en una fuente visible y revisable.
El diseño de privacidad, detallado en la auditoría interna publicada, también introduce elementos que dialogan directamente con las preocupaciones detectadas en contextos como el colombiano. HAL9000 se ha concebido para operar en entornos privados del cliente, con procesamiento local de documentos, cifrado en reposo del volumen de subidas y eliminación física de archivos una vez indexados. El sistema integra además mecanismos de purga por identificador, minimización de datos en logs y una política explícita de no registrar contenidos sensibles (prompts, documentos o transcripciones) en los registros operativos. Este enfoque resulta particularmente relevante para expedientes judiciales, donde el volumen de datos personales y la sensibilidad de la información exigen algo más que cláusulas genéricas de confidencialidad.
En el plano funcional, la herramienta está pensada para asuntos completos y no solo para preguntas aisladas: permite trabajar en un mismo hilo con documentos, estrategia, revisión y borradores, incorporando funcionalidades como anonimización de documentos, transcripción de vídeo, OCR y grafos de relaciones. A ello se suma un "radar" de viabilidad, juicio de relevancia y evaluación final de la fortaleza de un argumento o de la utilidad de la jurisprudencia recuperada. Todo ello no pretende sustituir la valoración profesional, sino proporcionar un mapa de fuentes y entidades que facilite la tarea de jueces, magistrados y abogados, quienes siguen siendo responsables de la interpretación jurídica y de las decisiones que se adopten.
Conviene subrayar, además, que los propios términos de servicio de HAL9000.Legal reconocen expresamente que se trata de una herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico. La responsabilidad de verificar y validar los resultados recae en el usuario, que debe comprobar la adecuación de las respuestas al caso concreto. Esta advertencia contractual, unida al diseño de la interfaz orientado a mostrar fuentes y fundamentos, refuerza la idea de que la IA debe integrarse como ayuda al razonamiento jurídico, no como sustituto automático del mismo.
Si se ponen en relación las conclusiones del análisis sobre la justicia colombiana con el tipo de soluciones técnicas y organizativas que representa HAL9000.Legal, emerge una pauta clara: la discusión ya no es "IA sí o no" en los sistemas de justicia, sino qué tipo de IA, con qué arquitectura de datos, bajo qué control territorial y con qué nivel de transparencia en las fuentes. Frente a modelos cerrados y externalizados, las propuestas basadas en servidores propios en España, ausencia de subcontratación con IA genérica, trazabilidad verificable y supervisión humana activa ofrecen un camino más alineado con las exigencias del derecho a la tutela judicial efectiva, la protección de datos y la confianza ciudadana en las decisiones judiciales.
Quien quiera profundizar en el contexto latinoamericano y en el caso colombiano en particular puede consultar directamente el análisis publicado por Dejusticia en su página web, bajo el título «¿Quién usa la inteligencia artificial en la justicia colombiana?», disponible en https://www.dejusticia.org.
Claves del artículo
- El uso de IA en la justicia exige algo más que eficiencia: requiere transparencia, control institucional y supervisión humana efectiva sobre las decisiones que se apoyan en sistemas automatizados.
- La dependencia de modelos generalistas operados por terceros plantea tensiones con la protección de datos, el secreto profesional y la necesidad de comprender y cuestionar los fundamentos de las respuestas generadas.
- HAL9000.Legal representa un enfoque alternativo basado en infraestructura propia en España, sin envío de datos a proveedores externos de IA y con posibilidad de entornos dedicados para despachos y clientes institucionales.
- La plataforma incorpora post-entrenamiento interno específico para trabajo jurídico, orientado a reducir la invención de contenidos, separar correctamente las partes de una resolución y fomentar respuestas prudentes.
- La trazabilidad verificable de las fuentes, evaluada en un benchmark end-to-end sobre la interfaz real, permite que el profesional revise el fundamento documental de las respuestas en lugar de recibir conclusiones opacas.
- La auditoría de privacidad de HAL9000 describe una arquitectura que prioriza el procesamiento local de documentos, el cifrado en reposo, la eliminación física tras la indexación y la minimización de logs con exclusión de contenidos sensibles.