“ChatGPT no es un abogado”: qué nos recuerda esta polémica sobre el uso de IA en los despachos

El reportaje de La Vanguardia bajo el título “ChatGPT no es un abogado” se hace eco de una realidad ya visible en muchos colegios profesionales: la IA ha entrado en los despachos y departamentos jurídicos, pero no siempre de forma ordenada. La combinación de modelos generalistas, respuestas verosímiles pero no siempre exactas y una supervisión insuficiente ha empezado a traducirse en expedientes y sanciones cuando se presentan escritos o informes con citas inventadas o conclusiones no contrastadas. El mensaje de fondo es claro: la IA genérica en la nube, usada como si fuera un sustituto del abogado, genera riesgos profesionales, disciplinarios y reputacionales que no pueden ignorarse.

Detrás de estos episodios suele haber dos factores: por un lado, el problema técnico de las llamadas “alucinaciones” de la IA, es decir, la generación de artículos, jurisprudencia o doctrina inexistente; por otro, la falta de una cultura de uso responsable que asuma que estos sistemas no son fuentes de Derecho ni ofrecen un asesoramiento contrastado. A ello se suma una tercera cuestión que a veces pasa a segundo plano en el debate público: el tratamiento de datos confidenciales de clientes en infraestructuras que no controlamos, con servidores repartidos por distintas jurisdicciones y términos de servicio donde el proveedor es, en la práctica, un tercero ajeno al secreto profesional del abogado.

En AbogaTIC partimos de una premisa que la propia noticia de La Vanguardia viene a reforzar: la IA no debe presentarse ni utilizarse como un “abogado automático”. HAL9000.Legal se define expresamente en sus Términos y Condiciones como una herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico. Es decir, el modelo está concebido para asistir en tareas de redacción, revisión y análisis de documentos, pero la validación y la decisión jurídica siguen siendo responsabilidad del usuario profesional. Esta misma cláusula contractual sitúa el uso de la herramienta en un marco alineado con las exigencias de la abogacía y de otros operadores jurídicos: la IA como apoyo, nunca como delegado de la responsabilidad.

La noticia sobre las sanciones por “inventarse cosas” conecta también con la diferencia técnica entre apoyarse en IA genérica de terceros “con un prompt” y trabajar con un sistema específicamente ajustado al entorno jurídico. HAL9000.Legal no se limita a poner instrucciones por delante de un modelo generalista cerrado, sino que incorpora un postentrenamiento interno propio orientado al razonamiento jurídico, a la separación entre hechos, alegaciones, fundamentos y fallo, y a reducir las respuestas improvisadas. El sistema está entrenado precisamente para no inventar lo que no consta en el texto y para reconocer límites, respondiendo con prudencia cuando la información disponible no es suficiente. No es infalible, y la propia empresa lo reconoce al no garantizar la exactitud absoluta de las respuestas, pero el diseño va encaminado a minimizar justo el tipo de errores que la prensa empieza a visibilizar en otros contextos.

El segundo gran bloque de preocupaciones que se desprende de esta discusión es el de la privacidad y el secreto profesional. Muchos modelos de IA disponibles en el mercado funcionan íntegramente en la nube y procesan las consultas y documentos en servidores de terceros. HAL9000.Legal se ha diseñado a propósito en sentido contrario: como una IA jurídica privada, ejecutada en servidores propios de Abogacía Tecnológica en España o en el propio entorno del despacho, sin subcontratar procesamiento con OpenAI (ChatGPT), Google (Gemini) ni otros proveedores externos. La propia documentación comercial de la plataforma lo resume de forma directa: es la única IA jurídica española que no envía tus datos a terceros, sin APIs externas y con todo el flujo de prompts y documentos bajo control local.

Esa apuesta por la privacidad y el control del dato está desarrollada con más detalle en el informe interno de auditoría de privacidad de HAL9000.Legal, de marzo de 2026. Según este documento, la plataforma funciona con una interfaz web local que gestiona adjuntos y sesiones, mientras que el procesamiento (incluidos OCR, embeddings, búsqueda y transcripción) se realiza dentro del entorno privado, con persistencia en bases locales. El volumen de archivos subidos se cifra en reposo mediante LUKS, los documentos se eliminan físicamente una vez indexados y la política de logs excluye expresamente la grabación de contenidos sensibles como prompts, documentos o transcripciones. Además, se emplean modelos de código abierto servidos en la propia infraestructura, con un motor de inferencia configurado sin registro de prompts/respuestas, lo que refuerza la idea de que los datos de los clientes no se utilizan para entrenamientos externos ni salen a la nube.

Desde una perspectiva práctica para el jurista, todo esto se traduce en una diferencia cualitativa en la forma de trabajar con IA. Mientras que el uso despreocupado de modelos generalistas puede acarrear, como ilustra la noticia de La Vanguardia, sanciones por confiar en respuestas no verificadas y dudas serias sobre la confidencialidad del caso, un sistema como HAL9000.Legal se concibe para trabajar asuntos completos con mayor trazabilidad: analizar documentación jurídica, localizar fundamento útil, contrastar citas y preparar borradores con criterio jurídico y continuidad de contexto, siempre bajo la supervisión del profesional y en un entorno de datos controlado. No elimina la necesidad de revisar, interpretar y decidir, pero proporciona un soporte técnico alineado con el razonamiento jurídico y con las exigencias de privacidad propias del secreto profesional.

En definitiva, la advertencia de que “ChatGPT no es un abogado” no debería llevarnos a rechazar la IA en bloque, sino a distinguir entre usos y modelos. El estándar que se perfila para los próximos años combina cuatro elementos: herramientas diseñadas específicamente para el Derecho, infraestructuras bajo control (idealmente en local o en servidores propios en España), mecanismos técnicos que reduzcan las alucinaciones y un marco de uso en el que la responsabilidad siga claramente en manos del jurista. HAL9000.Legal se ha construido precisamente alrededor de esos ejes, sin prometer infalibilidad, pero sí aportando una base técnica y contractual más coherente con las obligaciones profesionales de los abogados, asesores internos y otros operadores jurídicos.

La noticia original a la que se refiere esta entrada, publicada por La Vanguardia con el título “ChatGPT no es un abogado”: la IA empieza a propagarse entre los juristas, que empiezan a ver sanciones por ‘inventarse cosas’, puede consultarse íntegramente en la web del diario en https://www.lavanguardia.com.