Justicia robotizada, sí; decisiones humanas, también: cómo encaja HAL9000 en el nuevo marco europeo de la IA
La justicia automatizada ya no es un escenario futurista, pero el marco regulatorio europeo insiste en algo esencial: juzgar sigue siendo una potestad humana. En este contexto, los modelos de IA jurídica privada, como HAL9000, muestran que es posible usar IA en los despachos y en la Administración de Justicia sin renunciar a la privacidad, la trazabilidad ni a la supervisión profesional.
El artículo de The Conversation parte de una constatación incómoda pero necesaria: los sistemas de IA han llegado al mundo de la justicia y es previsible que se extienda su uso en los próximos años. Sin embargo, la narrativa de la “justicia robotizada” suele simplificar un debate que es mucho más matizado. La regulación europea de la IA, junto con las pautas que se están perfilando para sistemas utilizados en decisiones públicas sensibles, insiste en que la función jurisdiccional —interpretar y aplicar el Derecho a unos hechos concretos, valorar la prueba, dictar resoluciones— sigue siendo una potestad humana. La tecnología puede ayudar a buscar jurisprudencia, ordenar expedientes o resumir documentos, pero no debe tomar la decisión ni desplazar la responsabilidad profesional.
Ese marco encaja bien con una línea de desarrollo que ya estamos viendo en España: herramientas de IA jurídica que asumen desde su diseño que no van a “juzgar”, sino a asistir. HAL9000 es un ejemplo claro. Según sus términos de servicio, la plataforma se presenta como un sistema de asistencia profesional para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia y elaboración y revisión de documentación jurídica. Se dirige a abogados y otros profesionales del Derecho “como herramienta de apoyo bajo su criterio y supervisión” y deja por escrito algo relevante desde el punto de vista regulatorio: no está destinada a sustituir la valoración profesional del usuario ni a ser utilizada por autoridades judiciales para adoptar resoluciones, valorar de forma autónoma la prueba o aplicar el Derecho a un conjunto concreto de hechos.
Ese mismo documento fija con precisión la frontera cuando el usuario es un juez, magistrado u otro profesional de la Administración de Justicia. El eventual uso de HAL9000 por estos perfiles queda limitado a tareas auxiliares: consulta y recuperación de información, búsqueda documental, anonimizaciones, organización de información y otras tareas preparatorias que no analicen ni evalúen pruebas, no interpreten ni apliquen el Derecho a hechos concretos, no formulen recomendaciones sobre el caso y no influyan materialmente en el resultado de una decisión. Es, en esencia, la misma lógica que inspira el discurso académico sobre “justicia robotizada regulada”: sí a las herramientas de apoyo, no a la delegación de la decisión en un algoritmo.
Más allá de la finalidad declarada, el debate sobre IA y Derecho suele pivotar sobre tres preocupaciones prácticas: privacidad, dependencia tecnológica y trazabilidad. El artículo de The Conversation se sitúa en un plano más conceptual, pero las respuestas tienen que ser concretas. En el caso de HAL9000, la memoria disponible refleja una apuesta clara por una IA jurídica privada en España: servidores en territorio nacional, infraestructura propia o dedicada para despachos, sin cesión operativa de las consultas a plataformas generalistas y sin envío de datos a proveedores externos de IA. El informe interno de auditoría de privacidad subraya que HAL9000 está diseñado para operar en un entorno privado del cliente, con procesamiento local de documentos jurídicos, cifrado en reposo del volumen de uploads, eliminación física de los archivos una vez indexados y mecanismos de purga gobernados por identificadores.
La arquitectura descrita en la auditoría apunta a una interfaz web local que gestiona adjuntos y sesiones, con secretos y endpoints internos fuera del navegador, OCR, embeddings, búsqueda y transcripción dentro del entorno privado y bases locales para la persistencia controlada. No se registran contenidos sensibles (prompts, documentos, transcripciones) en los logs, que se limitan a eventos técnicos mínimos. Además, HAL9000 utiliza modelos open‑source servidos en infraestructura local, sin canal de envío a terceros ni uso de los datos para entrenamiento externo. Esta combinación —infraestructura propia, ejecución local, minimización y control de la retención— encaja con las exigencias reforzadas de privacidad y seguridad de la información que se reclaman para cualquier IA que toque expedientes judiciales o de despachos en Europa.
La trazabilidad es el otro gran eje. Una parte importante del temor a la “justicia robotizada” se debe a la opacidad de ciertos sistemas: el profesional recibe una respuesta sin saber con claridad de qué fuentes se ha nutrido ni si puede verificar fácilmente las citas. En el caso de HAL9000, la propia descripción del producto y los resultados del benchmark E2E señalan un enfoque explícito en la trazabilidad mediante fuentes verificables. Sobre una muestra de 120 consultas, se mostraron 794 citas visibles en la interfaz y se abrieron correctamente 794 de 794 fuentes verificadas. Aunque la propia documentación reconoce que la trazabilidad no demuestra por sí sola un soporte semántico perfecto, sí aporta una señal fuerte de robustez documental, reduce la opacidad y evita que una afirmación llegue al abogado sin fuente visible y revisable.
En esta misma línea, la plataforma enfatiza que no es “otro asistente generalista maquillado para Derecho”. Más que limitarse a dar instrucciones a un modelo de propósito general, HAL9000 incorpora un post‑entrenamiento interno orientado al razonamiento jurídico, con un diseño que busca separar hechos, alegaciones, fundamentos y fallo, y que está entrenado para no inventar lo que no consta en el texto. También está pensada para trabajar con asuntos completos y no solo con preguntas sueltas, lo que facilita una operativa más cercana al trabajo real del despacho: análisis de viabilidad, selección de jurisprudencia útil, revisiones de borradores, mapas de fuentes y grafos de relaciones para convertir expedientes complejos y grabaciones en trabajo jurídico utilizable.
Todo esto no convierte a HAL9000 en un “juez automático”; de hecho, sus propios términos insisten en la naturaleza del servicio: es una herramienta de apoyo basada en IA generativa que no sustituye el criterio profesional, no toma decisiones jurídicas y no constituye asesoramiento jurídico autónomo. El usuario debe revisar y validar los resultados antes de utilizarlos. La ventaja, desde la óptica de la regulación y del propio debate que refleja The Conversation, es que este tipo de sistemas hacen explícitas sus limitaciones y su ámbito de uso previsto. Se trata de reforzar la capacidad de análisis, la productividad y la calidad del trabajo jurídico, sin desplazar la responsabilidad ni la potestad de juzgar a un sistema automatizado.
De fondo, la discusión sobre “justicia robotizada” no es tanto un rechazo a la IA en el Derecho como una exigencia de condiciones: privacidad fuerte, control local de los datos, ausencia de entrenamiento externo con expedientes reales, posibilidad de auditoría y trazabilidad verificable, y una separación clara entre lo que la máquina puede hacer (asistir, ordenar, analizar, proponer borradores) y lo que sólo corresponde al profesional (valorar pruebas, interpretar el Derecho, decidir). Los modelos de IA jurídica privada que se están construyendo con estos criterios —como HAL9000— muestran un camino intermedio: ni tecnofobia ni delegación irresponsable, sino integración prudente de la IA en la práctica jurídica cotidiana, bajo supervisión humana efectiva.
La reflexión académica y periodística de The Conversation, que sitúa la “justicia robotizada” bajo el foco de la regulación y de la responsabilidad democrática, ayuda a entender por qué estos matices importan. Un sistema como HAL9000 es coherente con esa visión: se ofrece a profesionales del Derecho como herramienta de apoyo bajo su criterio y supervisión, se limita en el uso jurisdiccional a funciones auxiliares que no influyan en la decisión y se despliega sobre una arquitectura de privacidad y trazabilidad orientada a reducir riesgos. La cuestión no es si habrá IA en el Derecho —ya la hay—, sino bajo qué condiciones jurídicas, técnicas y éticas se va a utilizar.
Para profundizar en el debate sobre justicia automatizada y el papel de la regulación en garantizar que juzgar siga siendo una potestad humana, puede consultarse el artículo completo en The Conversation: “La justicia robotizada ya está aquí, pero regulada para que juzgar siga siendo una potestad humana”, disponible en https://theconversation.com.
Claves del artículo
- La regulación europea y el debate académico convergen en una idea: los sistemas de IA pueden asistir en tareas jurídicas, pero no deben sustituir la función jurisdiccional ni la responsabilidad profesional.
- HAL9000 se define contractualmente como una herramienta de asistencia para investigación, análisis documental y elaboración de escritos, no como un sistema de decisión jurídica autónoma.
- El eventual uso de HAL9000 por jueces o magistrados se limita a tareas auxiliares que no valoran pruebas, no aplican el Derecho a hechos concretos ni influyen materialmente en el resultado de una resolución.
- La plataforma se despliega sobre infraestructura propia en España, sin envío de datos a proveedores externos de IA y con una arquitectura de privacidad que prioriza el procesamiento local, el cifrado, la minimización y la ausencia de registro de contenidos sensibles.
- HAL9000 apuesta por la trazabilidad mediante fuentes verificables: en un benchmark E2E sobre la interfaz real se verificó la apertura correcta de 794 de 794 citas visibles, lo que refuerza la posibilidad de revisión humana.
- El diseño funcional (trabajo por expedientes completos, separación entre hechos, alegaciones, fundamentos y fallo, y post‑entrenamiento orientado al razonamiento jurídico) busca aproximar el comportamiento del modelo al trabajo real del despacho, manteniendo siempre la supervisión y el criterio del profesional.