IA en los recursos judiciales: lo que el TSJA está advirtiendo y lo que los despachos pueden hacer

Aunque la pieza de ABC no es accesible íntegramente en abierto, el titular es muy claro: el Tribunal Superior de Justicia de Andalucía alerta del uso de IA en los recursos, y el decano de los abogados de Córdoba recuerda algo tan elemental como que «hay que revisar lo que se firma». En la práctica, esto suele aludir a escritos elaborados con herramientas de IA generalista, sin revisión suficiente, con posibles errores de derecho o de hecho y, en ocasiones, con referencias inventadas. Desde la perspectiva de los tribunales, el problema no es sólo la calidad técnica del recurso: también preocupa la falta de transparencia sobre qué sistemas se han utilizado, dónde se han enviado los datos del cliente y si el letrado está en condiciones de responder de lo que presenta en nombre de su representado.

Si se cruzan estas advertencias con la realidad tecnológica del sector, aparece un patrón conocido. Buena parte de las soluciones que han llegado al despacho en los últimos años son modelos generalistas «maquillados» como asistentes jurídicos, apoyados en plataformas externas. Se accede a ellos a través de APIs o servicios en la nube ajenos al despacho, de modo que las consultas y los documentos viajan fuera de España y quedan, al menos durante cierto tiempo, en sistemas que el abogado no controla. En este contexto, la llamada del TSJA y de la abogacía institucional tiene una lectura muy práctica: un recurso que se apoya en un sistema que el propio letrado no puede auditar ni explicar, que no muestra con claridad sus fuentes y que se alimenta de expedientes reales subidos a servidores de terceros es difícilmente compatible con la diligencia exigible.

En paralelo a estas alertas, sin embargo, la práctica judicial y profesional está empezando a diferenciar entre dos tipos de IA: por un lado, la IA abierta, generalista, pensada para cualquier usuario y cualquier tema; por otro, sistemas jurídicos específicos, diseñados para operar en entornos controlados, con límites de uso bien definidos y con énfasis en la privacidad y la trazabilidad. HAL9000.Legal se inscribe en este segundo grupo. Tal y como recoge su propia documentación pública, es una IA jurídica privada pensada para profesionales del Derecho, desplegada en infraestructura propia en España, sin envío de los datos del expediente a proveedores de IA generalistas y con un diseño orientado a que el abogado pueda seguir el fundamento jurídico de las respuestas mediante fuentes verificables.

La arquitectura de HAL9000 pone el acento en tres aspectos que están directamente relacionados con las preocupaciones que laten tras la noticia. Primero, la privacidad: la documentación de auditoría describe un funcionamiento en entorno privado del cliente, con procesamiento local de documentos, cifrado en reposo de los archivos subidos, eliminación física de los adjuntos una vez indexados y mecanismos de purga por identificador. No se envían los expedientes a terceros para su procesamiento ni se utilizan los datos para entrenamiento externo, y los modelos de IA que se emplean son open‑source servidos en esa misma infraestructura controlada. Segundo, la gestión de registros: el motor de inferencia se configura sin registro de prompts y respuestas, y los logs se limitan a eventos técnicos mínimos, sin contenidos sensibles. Tercero, la trazabilidad: el propio sistema ha sido evaluado en un escenario de uso real, en el que, sobre 120 consultas, se mostraron 794 citas y se pudo abrir correctamente 794 de 794 fuentes desde la interfaz; esto no garantiza perfección semántica, pero sí reduce significativamente la opacidad y permite al abogado revisar de dónde sale cada afirmación relevante.

Hay, además, un punto de conexión directo con la advertencia del decano sobre «revisar lo que se firma». Los términos de uso de HAL9000 insisten en que se trata de una herramienta de asistencia, no de un sustituto del criterio profesional. Se especifica que el sistema está destinado a investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia y elaboración o revisión de documentación, siempre bajo criterio y supervisión del profesional. La propia plataforma recuerda que no constituye asesoramiento autónomo, no toma decisiones jurídicas y que el usuario debe revisar y validar los resultados antes de utilizarlos. Incluso respecto de un eventual uso por jueces y magistrados, la finalidad prevista se limita a tareas auxiliares (búsqueda documental, organización de información, anonimización), excluyendo expresamente la valoración de pruebas, la interpretación o aplicación del Derecho a hechos concretos o la formulación de recomendaciones sobre el caso. Es, en definitiva, una configuración alineada con la idea de que la responsabilidad última recae siempre en la persona que firma.

Para un despacho, esto se traduce en una pauta sencilla: el valor de una IA jurídica no está sólo en «lo bien que redacta», sino en lo que permite justificar. Un sistema que, como HAL9000, separa hechos, alegaciones, fundamentos y fallo en los textos que analiza, que trabaja con fuentes revisables y que obliga de facto al profesional a seguir la cadena de razonamiento, facilita cumplir con el estándar que los tribunales empiezan a exigir: no basta con presentar un escrito; hay que poder explicar por qué se sostiene cada argumento y sobre qué base normativa o jurisprudencial se apoya. Si a ello se suma que la explotación del sistema se hace sobre servidores en España, con políticas de cero retención de contenidos en logs y sin cesión operativa de las consultas a plataformas generalistas, el riesgo de exposición indebida de datos de clientes se reduce de forma considerable.

En ese sentido, las advertencias del TSJA y de la abogacía institucional no son un freno absoluto a la IA, sino un aviso sobre cómo integrarla de forma compatible con la deontología y con las expectativas de los tribunales. La tecnología no va a desaparecer de los despachos, pero su adopción responsable pasa por elegir modelos que puedan auditarse, que funcionen en entornos jurídicamente seguros y que estén pensados para acompañar el trabajo del profesional, no para sustituirlo ni para convertir al letrado en un mero firmante de textos generados por una caja negra. En la medida en que se avance hacia arquitecturas privadas, con servidores propios en España, sin subcontratación opaca con IA genérica y con trazabilidad real de las fuentes, el mensaje de «hay que revisar lo que se firma» dejará de sonar a advertencia y empezará a leerse como un estándar asumible de buena práctica profesional.

Puedes consultar la noticia original, «El TSJA alerta del uso de IA en los recursos y el decano de los abogados en Córdoba avisa: ‘Hay que revisar lo que se firma’», publicada en ABC, a través de su web: https://www.abc.es