Multa del TSJC por usar IA con citas inexistentes: qué nos enseña este caso sobre responsabilidad profesional

La información difundida por Biosferadigital sobre la multa impuesta por el Tribunal Superior de Justicia de Canarias a un abogado de Lanzarote por utilizar inteligencia artificial para redactar un recurso con citas jurisprudenciales inexistentes es un nuevo aviso a navegantes en el ámbito jurídico. No se trata de un choque entre jueces e IA, sino de algo más elemental: el tribunal sanciona que se presenten como verdaderos unos fundamentos jurídicos que no existen, sin la comprobación mínima exigible a quien firma el escrito. La herramienta puede ser un procesador de textos, una base de datos jurídica o una IA generativa; la responsabilidad final recae siempre en el profesional que decide utilizar ese material en un procedimiento real.

Este tipo de incidentes suele estar asociado al uso de plataformas generalistas de IA entrenadas para responder de forma fluida, pero no específicamente para el trabajo jurídico ni para la trazabilidad de sus afirmaciones. La propia experiencia comparada muestra que estos modelos pueden generar lo que se ha denominado “alucinaciones”: resoluciones, artículos o doctrinas que suenan verosímiles, pero que no existen o no se corresponden con el caso. Cuando el abogado se limita a copiar y pegar ese resultado sin contraste con bases de datos jurídicas, repertorios oficiales o la propia documentación del expediente, el riesgo deja de ser tecnológico y pasa a ser estrictamente deontológico y procesal.

Frente a ese enfoque, soluciones específicamente diseñadas para el ámbito jurídico, como HAL9000.Legal, plantean una lógica distinta de uso. No están concebidas como un “oráculo” infalible, sino como una herramienta de apoyo sometida desde el principio a dos ideas explícitas: no sustituyen el criterio profesional y deben permitir al abogado seguir el rastro de lo que la IA afirma. Los propios términos del servicio de HAL9000.Legal subrayan que la plataforma no constituye asesoramiento jurídico autónomo, que los resultados son generados automáticamente y que es el usuario quien debe verificar y validar las respuestas antes de emplearlas en su práctica. Esa advertencia contractual se alinea con lo que la resolución del TSJC, previsiblemente, viene a recordar por la vía de la sanción.

Otro eje relevante en este contexto es el de la trazabilidad. Si el problema práctico al que se enfrentan jueces, abogados y procuradores es detectar rápidamente si una cita existe y en qué términos, disponer de un sistema que proporcione fuentes revisables no es un adorno técnico, sino una garantía operativa. En el caso de HAL9000.Legal, la documentación pública explica que la plataforma trabaja con “citas verificables, mapa de fuentes e índice de entidades” para que el profesional pueda seguir el fundamento jurídico y localizar las resoluciones o documentos relevantes. Además, se ha publicado un resultado de auditoría funcional: en una muestra de 120 consultas reales, la interfaz mostró 794 citas visibles y todas las fuentes se abrieron correctamente desde el propio entorno de trabajo. Esa capacidad de “abrir” lo que la IA cita añade una capa de control que reduce, sin eliminar del todo, el riesgo de incorporar contenidos no contrastados a un escrito procesal.

La otra gran preocupación que subyace a casos como el del abogado sancionado es la relativa a la confidencialidad de los expedientes. El uso de herramientas generalistas suele implicar el envío de datos a infraestructuras externas, a veces situadas fuera del Espacio Económico Europeo, con políticas de tratamiento que el profesional no controla. HAL9000.Legal adopta un modelo distinto: la empresa titular, Abogacía Tecnológica, S.L., declara operar con infraestructura propia en España, sin APIs externas y sin cesión operativa de las consultas a plataformas generalistas. La auditoría de privacidad publicada describe un esquema de procesamiento local, cifrado en reposo del volumen de cargas, minimización mediante eliminación física de archivos una vez indexados y ausencia de registro de prompts, documentos o transcripciones en los logs. De nuevo, no se trata de una promesa genérica de “más seguridad”, sino de una arquitectura concreta pensada para que los datos no salgan del entorno controlado.

Finalmente, conviene no perder de vista que el uso de IA jurídica ya forma parte del día a día de muchos profesionales del Derecho, incluidos jueces y magistrados. La documentación de HAL9000.Legal indica expresamente que la solución está siendo utilizada por este colectivo, precisamente porque combina tres elementos que se vuelven críticos a la luz del caso del TSJC: trazabilidad de las fuentes, control estricto de la privacidad y diseño para una operativa real de despacho (análisis de asuntos completos, radar de viabilidad, separación entre hechos, alegaciones, fundamentos y fallo). Que la IA se incorpore a la práctica jurídica no es discutible a estas alturas; lo relevante es cómo se hace y con qué salvaguardas. La sanción al abogado de Lanzarote recuerda que la supervisión humana no es una cláusula formal, sino el núcleo de esa responsabilidad profesional: revisar, contrastar y decidir qué se presenta a un tribunal.

La noticia que motiva esta reflexión puede consultarse íntegramente en el medio que la adelantó: “El TSJC multa a un abogado de Lanzarote por usar la IA para un recurso con citas inexistentes”, publicada en Biosferadigital (https://www.biosferadigital.com).