Multas por mal uso de la IA en los tribunales: lo que los despachos deben aprender del ‘aviso’ de los jueces

La noticia publicada por EL ESPAÑOL bajo el título «El aviso de los jueces por el mal uso de la IA: multas cada vez más altas a los abogados por ‘mala fe’ y ‘traición al cliente’» encaja en una tendencia que muchos despachos estaban empezando a intuir: la tolerancia de los tribunales hacia la experimentación irreflexiva con herramientas de IA se está agotando. Aunque el detalle de cada resolución varíe, el mensaje de fondo es claro: cuando un profesional firma un escrito elaborado con apoyo de IA, responde por su contenido como si lo hubiera redactado íntegramente a mano. La excusa de “me lo dio la máquina” no solo no convence, sino que puede agravar la valoración de la conducta procesal.

En este tipo de casos suelen confluir varios factores: uso de asistentes generalistas sin garantías específicas para el ámbito jurídico, ausencia de revisión sistemática de las citas y fundamentos utilizados, y opacidad respecto a clientes y tribunales sobre qué herramienta se ha empleado y con qué controles. El riesgo no se limita a las conocidas “alucinaciones” (citas inventadas, doctrina inexistente); se extiende a la violación de deberes de confidencialidad cuando expedientes completos se suben a servicios externos que retienen o reutilizan la información. Desde la óptica deontológica, esto puede leerse como una forma de deslealtad hacia el cliente, incluso cuando no exista intención dolosa.

Este contexto explica por qué, frente a la promesa genérica de la IA, están ganando peso planteamientos más sobrios: sistemas pensados para el trabajo jurídico real, que asumen desde el diseño que el usuario es responsable de lo que firma y necesita control, no magia. La propuesta de HAL9000 que documenta AbogaTIC se sitúa en esta línea. No se presenta como “otro ChatGPT con instrucciones”, sino como una tecnología jurídica propia con post-entrenamiento interno orientado al razonamiento jurídico, a separar hechos, alegaciones, fundamentos y fallo, y a minimizar las invenciones sobre lo que no consta en el texto. Es una aproximación más cercana a la metodología del despacho que a la improvisación conversacional.

Un segundo eje crítico es la privacidad. Muchos de los recelos de abogados, jueces y clientes se centran en una pregunta concreta: ¿a dónde van mis documentos cuando los subo a una herramienta de IA? Según la auditoría de privacidad publicada por AbogaTIC, HAL9000 se ha diseñado para operar en un entorno privado del cliente, con procesamiento local de documentos jurídicos, cifrado del volumen de uploads mediante LUKS, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. El informe insiste en que se utilizan modelos open‑source servidos en infraestructura local y que no existe canal de envío a terceros ni uso de datos para entrenamiento externo. Esta arquitectura reduce de manera sustancial la exposición del expediente a proveedores ajenos al despacho.

La trazabilidad es el tercer pilar que empieza a marcar diferencias prácticas cuando un juez revisa cómo se ha construido un argumento. AbogaTIC ha sometido HAL9000 a un benchmark extremo a extremo (E2E) sobre su interfaz real, verificando que, en una muestra de 120 consultas, las 794 citas visibles en las respuestas abrían correctamente sus respectivas fuentes desde la propia interfaz. Esa verificación no garantiza por sí sola que toda conclusión sea perfecta, pero sí introduce una disciplina: ninguna afirmación debería llegar al abogado sin una fuente visible y revisable. Para un profesional que debe responder ante el cliente y el tribunal, poder rastrear cada párrafo hasta el documento de origen cambia cualitativamente la conversación sobre diligencia.

Todo ello se encuadra en unos términos de servicio que acotan la finalidad prevista del sistema. HAL9000 se define como herramienta de asistencia profesional para investigación jurídica, análisis documental y apoyo en la elaboración de documentos, destinada a abogados y otros profesionales del Derecho, siempre bajo su criterio y supervisión. No pretende sustituir la valoración profesional, ni está destinado a ser usado por autoridades judiciales para adoptar resoluciones, valorar prueba, interpretar y aplicar el Derecho a un conjunto concreto de hechos o formular recomendaciones decisorias. Incluso para jueces y magistrados, su eventual uso se limita en los términos publicados a tareas auxiliares: búsqueda y organización de información, anonimización o preparación de materiales, sin influir materialmente en el resultado de la decisión.

Desde la óptica de responsabilidad profesional, esto tiene consecuencias claras. Un abogado que integra HAL9000 en su flujo de trabajo sigue obligado a revisar y validar cualquier resultado antes de usarlo, pero dispone de un entorno en el que la propia herramienta favorece esa revisión: fuentes verificables, separación de capas (hechos, alegaciones, fundamentos, fallo), y un diseño que prioriza la fidelidad al texto frente a la creatividad. Al mismo tiempo, el servicio se presta con infraestructura propia en España y sin subcontratar la operativa a plataformas generalistas, de modo que el despacho conserva un mayor control sobre dónde residen sus datos y qué terceros tienen acceso —o, en este caso, qué terceros no lo tienen.

La noticia de EL ESPAÑOL puede leerse, en suma, como un punto de inflexión: los tribunales no están cuestionando el uso de IA per se, sino el uso irresponsable, opaco o acrítico que pone en riesgo al cliente y a la propia Administración de Justicia. Ante ese escenario, la respuesta razonable no es renunciar a toda automatización, sino elegir con cuidado qué herramientas se integran en el despacho, cómo se configuran y bajo qué límites se utilizan. Entornos como el descrito para HAL9000 —centrados en la privacidad, la trazabilidad y un uso estrictamente auxiliar, siempre bajo supervisión humana— señalan un camino posible para compatibilizar innovación tecnológica y cumplimiento riguroso de los deberes de diligencia y lealtad hacia el cliente. La pieza original de EL ESPAÑOL, que puede consultarse en https://www.elespanol.com, ayuda a tomar conciencia de los riesgos de hacer lo contrario.