IA en los tribunales gallegos: ética, control humano y lecciones para la abogacía digital

La noticia adelantada por El Correo Gallego sobre el lanzamiento, por parte del Consello da Avogacía Galega, de un programa pionero para el uso ético de la IA en tribunales es algo más que una iniciativa local: es una señal de madurez del ecosistema jurídico. El mensaje implícito es claro: los juzgados y despachos asumirán que la IA forma parte del trabajo cotidiano, pero lo relevante será cómo se integra, con qué límites y bajo qué controles. Para la abogacía esto supone dejar atrás la fase de fascinación o rechazo genérico y entrar en un terreno más exigente: el de justificar la trazabilidad de lo que se presenta al juzgado, la protección del expediente y el lugar que debe ocupar el criterio humano en cada decisión procesal.

Cuando se habla de IA en tribunales, el riesgo no es solo técnico, sino también jurídico: uso de modelos generalistas que mezclan alegaciones con antecedentes y fallo, generación de doctrina inexistente o imposibilidad de revisar de dónde sale una conclusión. En un entorno procesal, esto no es un fallo anecdótico, sino un posible incumplimiento del deber de diligencia profesional. De ahí que iniciativas como la del Consello, orientadas al "uso ético" de la IA, apunten necesariamente a elementos como la supervisión humana, la transparencia en las fuentes utilizadas y el respeto estricto a la confidencialidad del expediente.

En ese contexto, cobran sentido las arquitecturas de IA jurídica privada que se alejan del modelo de "asistente generalista maquillado". HAL9000.Legal es un ejemplo concreto: se presenta como una IA jurídica privada para despachos que trabajan con expedientes reales, servida en infraestructura propia en España y sin cesión operativa de consultas a plataformas generalistas como OpenAI o Google. El sistema está pensado para trabajar con asuntos completos —documentos, estrategia, revisión y borradores dentro de un mismo hilo—, y se apoya en fuentes revisables, trazabilidad de citas y un criterio de relevancia que el abogado puede auditar. No sustituye el asesoramiento profesional ni el juicio del letrado, sino que actúa como herramienta de apoyo, algo que sus propios términos de servicio recalcan de forma expresa.

La dimensión ética pasa también por la privacidad y el control del dato. El informe público de auditoría de HAL9000 describe una arquitectura donde el procesamiento de documentos, OCR, embeddings, búsqueda y transcripción se realiza en un entorno privado del cliente, con cifrado en reposo del volumen de uploads, eliminación física de archivos tras su indexación y mecanismos de purga por identificador. Se utilizan modelos open‑source servidos en infraestructura local, sin canal de envío a terceros ni uso de esos datos para entrenamiento externo. Además, la política de logs limita la retención a eventos técnicos mínimos, sin registrar contenidos sensibles ni transcripciones, lo que encaja con las exigencias de confidencialidad que la deontología profesional y la normativa de protección de datos imponen a la abogacía.

Otro elemento clave en el debate ético es la trazabilidad. No basta con obtener una respuesta persuasiva: es necesario ver de dónde sale. En HAL9000 la trazabilidad no se plantea como una promesa abstracta, sino como una funcionalidad visible en la interfaz, con citas verificables, mapa de fuentes e índice de entidades. El propio sistema ha sido sometido a una prueba end‑to‑end en su interfaz real, en la que, sobre una muestra de 120 consultas, se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes verificadas desde la interfaz. Esto no garantiza, por sí solo, perfección semántica, pero sí aporta una señal robusta de que el abogado puede seguir el fundamento documental y revisar qué está utilizando la IA para llegar a una conclusión, lo que facilita ejercer esa supervisión humana que reclaman los códigos éticos.

La propia naturaleza jurídica del servicio refuerza esta idea de control profesional. Los términos de HAL9000 insisten en que la herramienta no constituye asesoramiento jurídico ni sustituye el criterio del usuario, que debe verificar y validar los resultados antes de su uso profesional, asumiendo la responsabilidad por las decisiones que adopte. Este enfoque —modelo ajustado específicamente para trabajo jurídico, entrenado para no inventar lo que no consta en el texto y diseñado para reconocer sus límites y responder con prudencia— es coherente con la línea marcada por el Consello: IA sí, pero siempre subordinada al abogado y nunca en régimen de delegación ciega.

Al final, el programa ético impulsado por la abogacía gallega y el desarrollo de soluciones de IA jurídica privada apuntan hacia la misma dirección: para que la IA tenga un lugar legítimo en los tribunales, debe operar en entornos controlados, con servidores bajo jurisdicción española o europea, sin subcontratación opaca con IA genérica, y ofreciendo a la defensa y a la acusación herramientas que puedan explicar ante un juez de dónde salen sus argumentos. La tecnología, por sí sola, no garantiza ese estándar; es la combinación de arquitectura, gobernanza del dato y deontología profesional la que marcará la diferencia entre un uso ético y uno inaceptable de la IA en la Justicia.

Puedes consultar la noticia original sobre el programa del Consello da Avogacía Galega en El Correo Gallego en su edición digital: https://www.elcorreogallego.es