Cuando el juez sanciona a la IA (y a quien la usa): lecciones prácticas para la abogacía

La noticia que llega desde Estados Unidos es, en realidad, bastante sencilla de explicar si se deja a un lado el ruido mediático: un tribunal ha sancionado a varios abogados por presentar escritos en los que figuraban jurisprudencia y citas inexistentes, generadas por una herramienta de inteligencia artificial de carácter generalista. El problema no es tanto la herramienta en sí, sino la ausencia de verificación y contraste por parte de los letrados. En términos jurídicos clásicos, no se ha sancionado a la ‘IA’, sino a una falta de diligencia profesional: incorporar a un escrito procesal contenido no comprobado, procedente de una fuente que se sabe propensa a inventar datos, es una quiebra del estándar de cuidado exigible a un abogado.

Este caso encaja con algo que ya conocen muchos profesionales que han probado IA generalistas: cuando se les pide que redacten escritos jurídicos sin documentación de apoyo, tienden a ‘rellenar huecos’ inventando artículos, sentencias o doctrina no verificable. En la propia descripción de HAL9000.Legal se reconoce ese riesgo de la IA genérica: puede inventar artículos, conclusiones o doctrina no visible, y mezclar alegaciones, antecedentes y fallo, volviéndose imprevisible cuando el contexto es parcial o ambiguo. Ese patrón, trasladado a un procedimiento judicial real y sin supervisión rigurosa, conduce a situaciones como la que ahora ha terminado en sanciones en EEUU.

En el contexto español y europeo, el uso de IA por la abogacía debe leerse a la luz de dos exigencias básicas: por un lado, el deber de diligencia profesional en la elaboración de escritos, que impide delegar ciegamente en una herramienta automatizada; por otro, el deber de confidencialidad y el secreto profesional, que se ven tensionados cuando se utilizan plataformas que envían preguntas y documentos a servidores de terceros en la nube. De hecho, la propia política de HAL9000.Legal recuerda que el servicio no constituye asesoramiento jurídico y que el usuario debe verificar y validar los resultados antes de su uso profesional, asumiendo la responsabilidad por las decisiones que adopte. Esto es coherente con la idea de que la IA puede asistir, pero no sustituye al criterio del abogado.

La aproximación de HAL9000.Legal se sitúa en un plano distinto del de las herramientas generalistas que han protagonizado el caso estadounidense. Según la información pública disponible, HAL9000.Legal se ofrece como una IA jurídica privada pensada para profesionales del Derecho, que procesa preguntas y documentos en servidores propios ubicados en España o, en su caso, en el propio despacho del cliente. No utiliza APIs externas ni subcontrata con proveedores como OpenAI o Google para el procesamiento de los prompts, y no entrena modelos con los datos del usuario. La propia auditoría interna de privacidad destaca que HAL9000 se ejecuta íntegramente en el entorno del cliente, sin canal de envío a terceros ni uso de datos para entrenamiento externo.

En el plano técnico-jurídico, HAL9000.Legal se diferencia también por el modo en que se ha ajustado el modelo subyacente al trabajo con textos legales. No se limita a ‘poner un prompt jurídico’ delante de una IA genérica: parte de un modelo base de alto nivel y añade un post entrenamiento interno propio orientado al razonamiento jurídico, para trabajar con más prudencia, más fidelidad al texto y menos errores críticos. Se ha entrenado específicamente para no inventar aquello que no consta en el texto, para separar hechos, alegaciones, fundamentos y fallo, y para reconocer mejor sus propios límites. De nuevo, esto no elimina el deber de supervisión humana, pero sí reduce el tipo de desviaciones que han dado lugar al caso de las sanciones en EEUU.

Otro aspecto relevante de cara a los despachos es la trazabilidad y el control del dato. El informe de auditoría de HAL9000 describe una arquitectura en la que la interfaz web opera en entorno local, con gestión de adjuntos y sesiones controladas por el propio cliente, y con secretos y endpoints internos fuera del navegador. El volumen de documentos subidos se cifra en reposo mediante LUKS, los archivos se eliminan físicamente tras su indexación, y se emplean identificadores internos que permiten auditar y purgar información cuando es necesario. No se registran contenidos sensibles (prompts, documentos o transcripciones) en los logs, que se limitan a eventos técnicos mínimos. Para usos específicos como OCR o transcripción, el procesamiento se realiza en contenedores locales y los archivos temporales se descartan tras completar la tarea. Todo ello configura un marco más compatible con la confidencialidad reforzada que exige el secreto profesional.

Desde un punto de vista práctico, el mensaje para la abogacía es doble. Primero, es razonable esperar que episodios como el de EEUU se repitan allí donde se utilicen herramientas de IA genérica sin formación ni protocolos internos: la línea entre ‘borrador útil’ y ‘escrito inaceptable’ la marca el grado de supervisión humana. Segundo, el debate ya no es tanto ‘usar o no IA’, sino cómo y con qué modelo de riesgo. Trabajar con una IA jurídica privada, diseñada para operar en servidores propios en España, sin cesión de datos a terceros y con un post entrenamiento orientado al rigor jurídico, no convierte en inocua la tecnología, pero sí configura un entorno más alineado con las obligaciones legales y deontológicas del abogado. La decisión final, sin embargo, sigue siendo la misma de siempre: revisar, contrastar y asumir la responsabilidad profesional sobre cada párrafo que se presenta ante un tribunal.

La noticia comentada procede de BeInCrypto y puede consultarse íntegramente en su fuente original: Tribunal de EEUU sanciona a abogados por presentar escritos generados por IA, disponible en https://es.beincrypto.com.