¿Sustituir a los jueces por IA? El caso Peinado y lo que de verdad está en juego

El titular de Libertad Digital —«¿Debe la IA sustituir a los jueces? El caso del juez Peinado»— capta bien el clima actual: un sistema judicial sometido a una presión política y mediática constante, donde cada resolución relevante se interpreta como pieza de un tablero mayor. En ese escenario, es tentador imaginar que una supuesta “IA imparcial” podría resolver mejor que un juez humano. Sin embargo, la pregunta está mal formulada desde la lógica del Estado de Derecho: los jueces no son meros procesadores de datos, sino titulares de una función constitucional que combina independencia, sometimiento a la ley y responsabilidad personal por sus decisiones.

Si se mira con lupa el funcionamiento real de los modelos de inteligencia artificial, el espejismo de la sustitución se disipa. Los sistemas de IA responden en función de patrones estadísticos sobre datos previos y de las instrucciones que reciben. No tienen conciencia institucional del papel del juez, no asumen responsabilidad y no pueden responder ante un recurso de apelación o una acción disciplinaria. Cualquier algoritmo que se usara para ayudar a valorar hechos, interpretar normas o buscar precedentes seguiría necesitando el filtro crítico de un profesional humano que motive la decisión y la asuma. Por eso, el encuadre correcto del debate no es “IA frente a jueces”, sino “qué IA, en qué condiciones y bajo qué control pueden apoyar el trabajo de jueces y abogados”.

Aquí es donde el diseño concreto de las herramientas importa. No es lo mismo utilizar un modelo lingüístico generalista en la nube, pensado para responder a cualquier tipo de pregunta de cualquier usuario, que trabajar con una plataforma jurídica cerrada, orientada a expedientes reales y con control del ciclo de vida de los datos. En el primer caso, el despacho o el órgano judicial se arriesga a que documentos sensibles acaben en infraestructuras ajenas, con usos que pueden escapar a su control. En el segundo, la arquitectura puede adaptarse a las exigencias del secreto profesional, la confidencialidad y la normativa europea de protección de datos.

HAL9000.Legal se ha posicionado expresamente en esta segunda categoría. Según la información pública de Abogacía Tecnológica, se trata de una IA jurídica privada que opera con infraestructura propia en España, sin enviar los datos a OpenAI, Google ni otros terceros, y sin apoyarse en APIs externas para el procesamiento de las consultas. La plataforma está diseñada para que el abogado trabaje con asuntos completos —documentación, análisis, estrategia y borradores— dentro de un mismo hilo de trabajo. Esa continuidad de contexto permite un uso más cercano al día a día de un despacho que lo que ofrecen los asistentes generalistas de propósito amplio.

Esta aproximación tiene dos derivadas jurídicas relevantes. La primera es la privacidad: el sistema se ha concebido para funcionar en un entorno privado del cliente, con cifrado en reposo para los archivos subidos, eliminación física de los documentos una vez indexados y mecanismos de purga por identificador. Además, los modelos utilizados son open‑source servidos en infraestructura local, sin canal de envío a terceros ni uso de los datos para entrenamiento externo. Desde la perspectiva de cumplimiento, este enfoque reduce de forma significativa la exposición del despacho frente a fugas de información y limita la superficie de riesgo cuando se trabajan expedientes que contienen datos sensibles de partes, testigos o menores.

La segunda derivada es la trazabilidad. HAL9000.Legal no se limita a “contestar” como un chatbot genérico, sino que está orientado a mostrar citas verificables, mapas de fuentes e índices de entidades, de manera que el profesional pueda seguir el fundamento jurídico de la respuesta. La propia auditoría interna de Abogacía Tecnológica recoge una evaluación end‑to‑end en la que, sobre una muestra de 120 consultas, la interfaz mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes verificadas desde el frontend real. Esa trazabilidad verificable no garantiza por sí sola que la interpretación jurídica sea impecable, pero sí introduce un cambio importante: evita que una afirmación llegue al abogado sin fuente visible y revisable, proporcionando señales documentales que pueden someterse a control crítico.

Otro elemento que conecta con el debate suscitado en torno al juez Peinado es el rol del profesional humano. Los términos de servicio de HAL9000.Legal son explícitos: la herramienta no constituye asesoramiento jurídico y no sustituye el criterio profesional. Abogacía Tecnológica advierte que no se garantiza la exactitud o la adecuación de las respuestas al caso concreto y que es el usuario quien debe verificar y validar los resultados antes de su uso, asumiendo la responsabilidad por las decisiones adoptadas. Esta cláusula no es una mera precaución contractual: recoge una idea que debería estar en el centro de cualquier discusión sobre IA y justicia. La autoridad para decidir un caso, motivarlo y asumir sus consecuencias no puede delegarse en una máquina.

Además, la plataforma declara un post‑entrenamiento interno específico para el trabajo jurídico, con ajustes orientados a separar hechos, alegaciones, fundamentos y fallo, y a reducir la tendencia a “inventar” contenido que no consta en el texto. En lugar de vender una “IA infalible”, el diseño pone el acento en la prudencia, la fidelidad a las fuentes y el reconocimiento de los límites del modelo. De nuevo, esto encaja mejor con un escenario donde la IA asiste a jueces y abogados en tareas como el análisis de documentación, la búsqueda de jurisprudencia relevante o la preparación de borradores, pero donde la toma de decisión y la valoración de la prueba siguen siendo inequívocamente humanas.

Mientras el caso del juez Peinado se instrumentaliza en el debate político, el reto de fondo para la abogacía y la judicatura es más prosaico, pero también más decisivo: elegir herramientas que permitan ganar eficiencia y profundidad analítica sin renunciar al control del dato, la trazabilidad y la supervisión profesional. El camino razonable no pasa por “sustituir” al juez por un algoritmo, sino por dotar a los operadores jurídicos de sistemas de IA que trabajen a su servicio, dentro de marcos técnicos y contractuales que respeten su responsabilidad y la de las instituciones a las que sirven.

La información de partida puede consultarse en la fuente original.