Principios jurídicos de la IA y práctica real: de la Escuela de Verano del Poder Judicial a los despachos

Que una Escuela de Verano del Poder Judicial dedique una sesión específica a los principios jurídicos de la inteligencia artificial, con la intervención de la vicedecana de Derecho de la Universidad CEU Cardenal Herrera, es algo más que un gesto académico. Supone reconocer que la IA ya forma parte del ecosistema en el que se toman decisiones jurídicas, y que, por tanto, debe analizarse con las mismas herramientas con las que el Derecho ha venido encauzando históricamente otras tecnologías: principios de legalidad, responsabilidad, tutela judicial efectiva, protección de datos y, en última instancia, preservación del Estado de Derecho.

Aunque la noticia publicada en Actualidad CEU no se reproduce íntegra aquí, su propio titular permite vislumbrar el enfoque: hablar de «principios jurídicos» de la IA implica ir más allá del entusiasmo tecnológico y preguntarse por cuestiones como quién controla los datos, cómo se documenta el razonamiento de los sistemas, qué límites existen a su uso en procedimientos judiciales o administrativos, y de qué forma se garantiza que la persona —juez, abogado, fiscal— siga siendo la auténtica titular del juicio de relevancia y de la decisión final.

En AbogaTIC, esa preocupación por la coherencia entre principios y práctica se traduce en decisiones de diseño muy concretas en HAL9000.Legal. La propia web del proyecto explica que se trata de una IA jurídica privada, con servidores en España, sin APIs externas y sin suscripciones, pensada para que los profesionales del Derecho puedan trabajar con expedientes reales sin que sus consultas se envíen a plataformas generalistas ni a proveedores externos de IA. Esta aproximación conecta directamente con la idea de minimizar dependencia de terceros y de preservar el control efectivo sobre los datos que se procesan.

Los términos y condiciones del servicio refuerzan esa línea: HAL9000.Legal se presenta como herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico, recordando expresamente que el usuario debe verificar y validar las respuestas antes de su uso profesional y que asume la responsabilidad sobre las decisiones que adopte. Desde la perspectiva de los principios jurídicos de la IA, este recordatorio no es un simple descargo de responsabilidad: es una forma explícita de afirmar que la IA no desplaza el núcleo de la función jurídica, sino que la asiste, manteniendo la supervisión humana como elemento central.

La auditoría de privacidad de HAL9000, publicada por AbogaTIC como documento accesible, fija otros aspectos relevantes. El informe describe una arquitectura en la que el sistema se ejecuta en un entorno privado del cliente, con procesamiento local de documentos, cifrado en reposo del volumen de uploads, eliminación física de los archivos una vez indexados y mecanismos de purga por identificador. Se subraya que no existe canal de envío a terceros ni uso de datos para entrenamientos externos, que OCR, embeddings, búsqueda y transcripción se realizan dentro del entorno privado, y que no se registran contenidos sensibles (prompts, documentos o transcripciones) en logs, limitando estos a eventos técnicos mínimos.

Todo ello enlaza con los principios de privacidad por diseño y de minimización de datos que inspiran tanto el Reglamento General de Protección de Datos como las discusiones actuales sobre regulación específica de la IA. Si un sistema puede operar en infraestructura controlada, con persistencia ajustada a lo estrictamente necesario y mecanismos de purga verificables, la exposición del dato se reduce de forma significativa. Este enfoque es especialmente valioso cuando los usuarios son abogados, procuradores, notarios o miembros de la carrera judicial, que manejan de forma cotidiana información especialmente sensible.

Otro de los ejes de la discusión jurídica sobre IA —la transparencia y la explicabilidad— encuentra un correlato claro en la forma en que HAL9000.Legal gestiona la trazabilidad. Según la propia web de AbogaTIC, el sistema ha sido evaluado en un benchmark extremo a extremo (E2E) sobre su interfaz real, arrojando un resultado de 794 citas visibles abiertas correctamente de 794 intentadas en una muestra de 120 consultas. Es cierto que, como advierte la propia página, la trazabilidad verificable no garantiza por sí sola un soporte semántico perfecto, pero sí constituye una señal sólida de robustez documental y, sobre todo, permite que ninguna afirmación llegue al profesional sin una fuente visible y revisable.

Esa trazabilidad, articulada a través de citas verificables, mapas de fuentes e índices de entidades, no equivale a una «explicación jurídica» en sentido estricto, pero sí facilita algo fundamental para la práctica forense: que el abogado, el juez o el académico puedan reconstruir el fundamento normativo y jurisprudencial de una respuesta, seguir el rastro de las referencias utilizadas y someterlas a contraste. De nuevo, es una forma de alinear una herramienta de IA con los principios que exigen que las decisiones jurídicas sean motivadas, revisables y sometidas al control contradictorio de las partes.

Desde un punto de vista técnico-jurídico, también resulta relevante la distancia que AbogaTIC marca respecto de los modelos generalistas de IA. En la documentación pública se explica que la mayoría de herramientas intentan «convertir» un modelo generalista en abogado mediante instrucciones, sin permitir un post-entrenamiento interno real ni un ajuste fino al razonamiento jurídico, lo que puede derivar en invención de artículos o doctrina no visible, mezcla de alegaciones y fallos o comportamientos imprevisibles cuando el contexto es ambiguo. Frente a ello, HAL9000.Legal se presenta como una tecnología jurídica propia, con post-entrenamiento interno orientado a trabajar con más prudencia, más fidelidad al texto y menos errores críticos.

Esto no elimina el riesgo de error —la propia política de limitación de responsabilidad lo reconoce con claridad—, pero sí apunta a un principio metodológico importante: el trabajo jurídico requiere distinguir entre hechos, alegaciones, fundamentos y fallo, así como reconocer los límites de la propia herramienta y contestar con prudencia cuando la información es insuficiente. Este tipo de ajustes estructurales son coherentes con la preocupación académica y judicial por evitar la «alucinación» en sistemas de IA aplicados al Derecho.

Un elemento adicional, no menor, es la forma en que se articula la relación entre IA y responsabilidad profesional. HAL9000.Legal se dirige expresamente a profesionales del ámbito jurídico y se ofrece en modalidades de acceso por horas o mediante servidor dedicado para despachos, sin exigir registro con datos personales más allá de los necesarios para facturación y cumplimiento fiscal. Esta orientación profesional —y el hecho de que, según la propia web, ya esté siendo utilizada por jueces y magistrados— pone sobre la mesa un uso de la IA que no sustituye la deliberación jurídica, sino que la acompaña en expedientes complejos, con herramientas como anonimizador de documentos, transcripción de vídeo, grafo de relaciones o áreas de consulta con indicaciones específicas.

Ese tipo de operativa conecta de forma directa con los temas previsiblemente tratados en la intervención de la vicedecana de la CEU UCH: cómo garantizar que la IA en el ámbito jurídico trabaje sobre documentos reales, con capacidad de gestionar grandes volúmenes de información, pero sin que ello suponga renunciar a la confidencialidad, ni a la responsabilidad individual del jurista, ni a la posibilidad de revisar y cuestionar las propuestas del sistema. En la medida en que la comunidad académica y el Poder Judicial continúan reflexionando sobre los principios jurídicos de la IA, experiencias concretas como la de HAL9000.Legal ofrecen un laboratorio práctico sobre el que contrastar esos principios.

Desde AbogaTIC compartimos la idea de que el debate ya no está en si se debe usar o no IA en Derecho, sino en cómo se usa, con qué garantías y bajo qué condiciones de control. La experiencia demuestra que es posible combinar infraestructuras en España, ausencia de subcontratación con plataformas generalistas de IA, políticas de cero retención innecesaria y trazabilidad integral de la documentación con un modelo de supervisión humana estricta, en el que la palabra final y la responsabilidad siguen perteneciendo al profesional. Es en ese punto donde las reflexiones académicas sobre los principios jurídicos de la IA y las soluciones técnicas concretas pueden —y deben— encontrarse.

La noticia «La vicedecana de Derecho de la CEU UCH aborda los principios jurídicos de la IA en la Escuela de Verano del Poder Judicial» puede consultarse íntegra en la web de Actualidad CEU (Universidad CEU Cardenal Herrera): https://medios.uchceu.es