IA en las apelaciones: el problema no es la herramienta, sino cómo y con qué se usa

La información publicada por La Opinión de Murcia, bajo el titular «Los jueces de la Región alertan del mal uso de la IA en las apelaciones: "Tiene a incluir jurisprudencia falsa"», encaja en una tendencia que ya se observa en otros países: recursos y escritos procesales que incorporan citas jurisprudenciales inexistentes o mal atribuidas, generadas por sistemas de IA generalista. Desde la perspectiva de los tribunales, el problema no es solo la pérdida de tiempo en verificar esas referencias, sino el impacto que puede tener en la confianza general sobre la calidad técnica de la argumentación presentada por abogados y procuradores.

Que un modelo de lenguaje “invente” sentencias o artículos no es un fallo aislado, sino un comportamiento típico cuando se trabaja con herramientas generalistas entrenadas para completar texto de forma plausible, no para reconstruir con precisión un razonamiento jurídico apoyado en documentos verificables. Si a esto se suma la ausencia de un sistema de trazabilidad —es decir, la imposibilidad de abrir directamente la fuente de cada cita desde la propia interfaz—, el resultado es una especie de “caja negra” difícil de auditar en la práctica diaria del despacho. El abogado se ve forzado a revisar manualmente todo lo que recibe de la IA, sin apoyo real para discriminar qué partes son fiables y cuáles son mera invención.

En este contexto, no basta con apelar a la diligencia del profesional. Es cierto que la responsabilidad última del contenido del recurso recae sobre quien firma, pero también lo es que la presión de tiempos y la aparente fluidez de la IA pueden hacer muy tentador confiar de más en lo que ofrece un asistente genérico. Aquí es donde la arquitectura y el diseño de la herramienta marcan la diferencia: si el sistema está construido para el trabajo jurídico —y no simplemente “maquillado” con unas instrucciones—, puede ayudar al profesional a trabajar con más prudencia y menos errores críticos. Si, además, la plataforma no depende de APIs externas y opera en infraestructuras controladas, se reduce el incentivo a delegar partes sensibles del expediente en servicios opacos.

HAL9000 se enmarca justo en este tipo de enfoque: se presenta como una IA jurídica privada para profesionales del Derecho, con servidores en España y sin envío de las consultas a proveedores externos de IA. Según la documentación pública de AbogaTIC, la plataforma trabaja con infraestructura propia o dedicada y con modelos open‑source servidos en entorno local, de forma que los documentos y adjuntos se procesan sin canal de salida hacia terceros. La auditoría interna de privacidad describe, además, un esquema de cifrado en reposo, eliminación física de archivos tras su indexación y mecanismos de purga, así como una política de logs que excluye los contenidos sensibles. Todo ello apunta a una idea simple: la información del expediente debe permanecer bajo control del propio despacho o entidad usuaria.

Más allá de la infraestructura, la forma en que HAL9000 gestiona la trazabilidad resulta especialmente relevante para el problema que denuncian los jueces de la Región de Murcia. El sistema ha sido evaluado en un escenario extremo en el que, en una muestra de 120 consultas, se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes desde la propia interfaz. Esto no garantiza por sí solo que cada argumento sea impecable, pero sí ofrece una señal robusta de que el abogado puede seguir el fundamento jurídico de lo que ve: localizar la sentencia, verificar el precepto, comprobar si se está leyendo el fundamento jurídico correcto o si hay una confusión entre antecedentes de hecho, alegaciones de las partes y fallo. Es un cambio cualitativo respecto a la IA que “afirma” sin mostrar de dónde saca cada conclusión.

Otro punto relevante de HAL9000, de nuevo vinculado al tipo de errores que preocupan a los tribunales, es el post‑entrenamiento interno específico para razonamiento jurídico. La propia documentación de AbogaTIC subraya que el modelo se ha ajustado para no inventar lo que no consta en el texto, aprender a separar hechos, alegaciones, fundamentos y fallo, y reconocer sus propios límites. De ahí que la empresa insista en que no vende “otro ChatGPT con indicaciones”, sino una tecnología jurídica propia, con un comportamiento más cercano al de un profesional prudente que al de un asistente conversacional genérico. Esta filosofía reduce —aunque no elimina— la tendencia a la improvisación que tantos quebraderos de cabeza está causando en los recursos de apelación comentados en la prensa.

Conviene también distinguir entre el uso profesional en despachos y el uso por parte de miembros del Poder Judicial. Los propios términos y condiciones de HAL9000 son claros en este punto: la plataforma está diseñada como herramienta de asistencia profesional para investigación jurídica, consulta de jurisprudencia, elaboración y revisión de documentos, y está destinada a abogados y otros profesionales del Derecho bajo su criterio y supervisión. En el caso de jueces y magistrados, los términos limitan su utilización a tareas auxiliares o preparatorias —búsqueda documental, organización de información, anonimización— que no interpreten ni apliquen el Derecho a hechos concretos, no valoren prueba ni formulen recomendaciones sobre el caso ni influyan materialmente en el resultado de una decisión. Se trata de una autocontención deliberada, alineada con los estándares que se están discutiendo a nivel europeo sobre IA y función jurisdiccional.

La noticia de Murcia, leída a la luz de estas cautelas, puede verse como una oportunidad para ordenar el debate. No es razonable demonizar toda IA en el proceso judicial, pero tampoco lo es aceptar sin más que cualquier modelo generalista sirva para elaborar recursos, dictar resoluciones o valorar pruebas. Entre ambos extremos hay un espacio de diseño regulatorio y técnico: fijar qué tareas son apropiadas para la automatización asistida, qué condiciones de privacidad y control de datos son exigibles, qué nivel de trazabilidad debe ofrecer la herramienta y cómo se articula la responsabilidad del profesional que decide confiar —o no— en lo que propone el sistema.

Para los despachos, el mensaje práctico es claro: integrar IA en el flujo de trabajo exige revisar la cadena completa. ¿Se están enviando expedientes a plataformas generalistas sin conocer su política de retención de datos? ¿Es posible auditar, a posteriori, de dónde salió una cita jurisprudencial que aparece en una demanda? ¿Se ha formado al equipo para utilizar estas herramientas con sentido jurídico y no como un mero atajo de redacción? Soluciones como HAL9000 aportan un ejemplo concreto de cómo abordar estas cuestiones: control de la infraestructura, ausencia de cesión de datos a terceros, fuentes revisables, límites expresos de finalidad prevista y énfasis en que la decisión sigue correspondiendo al profesional que firma el escrito.

En definitiva, los problemas que detectan los jueces de la Región no se resolverán con prohibiciones genéricas ni con confianza ciega en la tecnología, sino con una combinación de herramientas adecuadas y cultura profesional. La IA puede ayudar a filtrar jurisprudencia, a organizar expedientes voluminosos o a elaborar borradores mejor estructurados, siempre que el abogado mantenga el control efectivo sobre el resultado y revise cada fundamento en su fuente original. La clave es asumir que, en Derecho, la automatización no descansa sobre la fe en el modelo, sino sobre la trazabilidad, la privacidad y la supervisión humana. Ahí es donde se juega la diferencia entre un recurso que incorpora jurisprudencia falsa y uno que utiliza la IA como apoyo responsable.

Fuente: «Los jueces de la Región alertan del mal uso de la IA en las apelaciones: "Tiene a incluir jurisprudencia falsa"», La Opinión de Murcia, disponible en https://www.laopiniondemurcia.es.