IA en la justicia: entre el tribunal que conocemos y las herramientas que realmente tenemos

La pieza de EstadoDiario, “La IA en la justicia: el riesgo de proteger demasiado el tribunal que conocemos”, se inscribe en una línea de reflexión que empieza a ser recurrente en Iberoamérica y en Europa: los tribunales no pueden permanecer ajenos a un entorno en el que la automatización ya está llegando a la fiscalización, a la gestión de expedientes o a la relación con la ciudadanía. Sin embargo, el salto de la tramitación electrónica a los sistemas de IA generativa introduce un cambio cualitativo: ya no hablamos solo de digitalizar flujos, sino de incorporar herramientas que producen texto nuevo, sintetizan información y, potencialmente, podrían influir en la argumentación jurídica. Desde ahí surge el temor a “tocar” el tribunal que conocemos: no solo como edificio y procedimiento, sino como garantía de imparcialidad, motivación de las resoluciones y control democrático.

En ese contexto, una parte del debate se polariza rápidamente. Por un lado, encontramos propuestas que, en nombre de la eficiencia, impulsan el uso de IA para redactar borradores de resoluciones o para priorizar asuntos, sin detenerse demasiado en cómo se gobiernan los datos, qué sesgos arrastran los modelos o quién responde cuando una sugerencia automatizada condiciona el resultado de un litigio. Por otro, se plantea la opción de blindar por completo la función judicial frente a cualquier tecnología de apoyo basado en IA, con el riesgo de dejar a los órganos jurisdiccionales trabajando en un ecosistema cada vez más desalineado con el resto de la Administración y de la práctica profesional. El artículo de EstadoDiario alerta, precisamente, de ese riesgo de “sobreprotección”: mantener intocable el tribunal que conocemos puede convertirse, a medio plazo, en una forma de desprotección, si impide incorporar apoyos técnicos bien gobernados que ya están cambiando la forma de trabajar de despachos, asesorías y fiscalizaciones.

La experiencia de plataformas jurídicas especializadas muestra que existe una vía intermedia: no convertir a la IA en un juez sombra, pero sí utilizarla como herramienta de apoyo bajo control humano. HAL9000, la solución de Abogacía Tecnológica, se ha diseñado explícitamente como sistema de asistencia profesional, no como sustituto del criterio jurídico. Según sus propios Términos y Condiciones, su finalidad prevista es la investigación jurídica, la recuperación y análisis documental, la consulta de legislación y jurisprudencia y la elaboración y revisión de documentación jurídica, siempre bajo el criterio y supervisión del usuario. Esta delimitación no es un matiz formal: implica, por ejemplo, que el servicio no está destinado a ser utilizado por autoridades judiciales para adoptar resoluciones, valorar de forma autónoma la prueba o interpretar y aplicar el Derecho a un conjunto concreto de hechos en el ejercicio de la función jurisdiccional.

La misma documentación aclara que, si jueces, magistrados u otros profesionales de la Administración de Justicia utilizan HAL9000, deben hacerlo dentro de unos márgenes muy concretos: como herramienta para consulta y recuperación de información, búsqueda documental, anonimizaciones, organización de información y otras tareas auxiliares o preparatorias, siempre que no analicen ni evalúen pruebas, no interpreten ni apliquen el Derecho a hechos concretos, no formulen recomendaciones sobre el caso ni influyan materialmente en el resultado de una decisión. El mensaje es claro: la IA puede entrar en el juzgado, pero solo para hacer de “mesa de trabajo” ampliada, nunca de co‑decisor. Este tipo de restricciones encaja bien con las advertencias de la doctrina y de reguladores europeos: la función jurisdiccional requiere una reserva de humanidad, tanto en la motivación de las resoluciones como en la valoración de la prueba, y cualquier herramienta que se acerque a ese núcleo debe estar expresamente limitada.

Más allá del plano funcional, la noticia de EstadoDiario invita también a preguntarse qué modelo técnico de IA encaja mejor con las exigencias de la Justicia. Una de las críticas habituales a la adopción acrítica de plataformas genéricas es la opacidad sobre dónde se procesan los datos, con qué fines y durante cuánto tiempo. En este punto, HAL9000 se presenta como una IA jurídica privada, con infraestructura propia en España y sin envío de datos a proveedores externos de IA. Esa premisa de no subcontratar el procesamiento a plataformas generalistas externas es relevante para cualquier juzgado o despacho que trabaje con información especialmente sensible: expedientes penales, datos de salud, conflictos laborales o procedimientos administrativos sancionadores. El hecho de operar sobre servidores propios en España facilita, además, el encaje con los marcos de protección de datos y con las exigencias de seguridad que ya se conocen en la Administración de Justicia.

La documentación de auditoría de privacidad de HAL9000 aporta otros elementos que dialogan bien con las preocupaciones que subyacen al artículo de EstadoDiario. El sistema está diseñado para operar en un entorno privado del cliente, con procesamiento local de documentos jurídicos y control estricto de los datos. El flujo de adjuntos contempla cifrado del volumen de cargas, eliminación física de archivos una vez indexados y mecanismos de purga por identificador, con una política de minimización que evita la retención innecesaria de información. La plataforma no envía contenidos a terceros para entrenamiento externo y utiliza modelos open‑source servidos en infraestructura local, con motores de inferencia configurados sin registro de prompts ni respuestas en logs. En términos prácticos, esto significa que la conversación entre profesional y herramienta no se convierte en un nuevo “repositorio” opaco fuera del control del órgano jurisdiccional o del despacho.

Otro de los ejes del debate público es la trazabilidad: cómo saber de dónde sale una sugerencia de la IA y qué base documental la respalda. Un riesgo evidente, si los tribunales se apoyan en modelos generalistas, es que la herramienta “invente” doctrina, cite artículos inexistentes o mezcle antecedentes, alegaciones y fallo sin que el profesional pueda localizar con facilidad el origen de cada afirmación. HAL9000 se ha diseñado precisamente para reducir ese tipo de errores críticos: trabaja con fuentes revisables, ofrece un mapa de fuentes y un índice de entidades que permiten seguir el fundamento jurídico y localizar a los protagonistas del expediente, y ha sido evaluado en un banco de pruebas extremo a extremo sobre su interfaz real. En una muestra de 120 consultas, la plataforma mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes verificadas desde la propia interfaz. No es una garantía absoluta de corrección jurídica —algo que ningún modelo puede prometer—, pero sí una señal de que el sistema se orienta a que ninguna afirmación llegue al profesional sin una fuente visible y revisable.

El enfoque prudente se extiende también al comportamiento del modelo. La propia documentación de Abogacía Tecnológica subraya que HAL9000 incorpora un post‑entrenamiento interno específico para adaptarse al razonamiento jurídico: se ha entrenado para no inventar lo que no consta en el texto, para separar hechos, alegaciones, fundamentos y fallo, y para reconocer sus propios límites. La plataforma se presenta expresamente como herramienta que no sustituye el criterio profesional, no toma decisiones jurídicas y no constituye asesoramiento jurídico autónomo. En la práctica, esto se traduce en una forma de trabajar más cercana a la de un asistente jurídico que ayuda a ordenar material, filtrar jurisprudencia útil y elaborar borradores bajo supervisión, que a la de un sistema que pretende proponer directamente la solución de un caso.

La noticia de EstadoDiario, leída a la luz de estas experiencias, sugiere una hoja de ruta razonable para los próximos años. En lugar de oponer “tribunal tradicional” e “IA decisora”, la discusión podría centrarse en cómo integrar herramientas jurídicas privadas, con servidores propios y sin cesión de datos a terceros, para asumir tareas que hoy consumen muchos recursos sin afectar a la esencia de la función jurisdiccional: anonimización de resoluciones, organización y búsqueda avanzada de información, revisión preliminar de documentos, transcripción de vistas y preparación de materiales de estudio. Siempre bajo dos condiciones: que el profesional del Derecho conserve el control sobre el resultado final y que exista un marco técnico y jurídico claro que limite el uso de la IA en el ámbito jurisdiccional a esas funciones auxiliares.

En definitiva, el “riesgo de proteger demasiado el tribunal que conocemos” no debería servir ni para justificar una confianza ciega en cualquier tecnología etiquetada como IA, ni para clausurar innovaciones que, bien diseñadas, pueden reforzar la calidad y la eficiencia del trabajo jurídico. Herramientas como HAL9000 muestran que es posible avanzar hacia una justicia apoyada en IA sin renunciar a principios esenciales: privacidad robusta, servidores propios en España, ausencia de subcontratación con plataformas de IA genéricas, trazabilidad verificable de las fuentes y una clara delimitación de la finalidad prevista, con supervisión humana obligada. El reto para legisladores, órganos de gobierno de jueces y operadores jurídicos será, previsiblemente, traducir estos criterios técnicos en estándares y protocolos de uso que permitan incorporar la IA allí donde aporta valor, sin desplazar el núcleo de la decisión jurisdiccional.

La noticia original “La IA en la justicia: el riesgo de proteger demasiado el tribunal que conocemos” puede consultarse íntegra en EstadoDiario, en https://estadodiario.com, dentro de su sección de columnas y actualidad jurídica.