IA generativa y abogacía: entre el riesgo de la ‘jurisprudencia inventada’ y la responsabilidad profesional

El V Congreso de la Abogacía de Castilla y León, celebrado en Zamora y recogido por La Opinión de Zamora, ha puesto palabras a una inquietud que muchos despachos ya perciben en su día a día: la proliferación de usos improvisados de herramientas de IA generalista en labores tan sensibles como la redacción de escritos, la búsqueda de jurisprudencia o el análisis de normativa. Entre las advertencias, una que no conviene tomar a la ligera: modelos como ChatGPT pueden llegar a ‘inventarse’ jurisprudencia y legislación cuando se les formula una consulta jurídica compleja, o cuando se les pide que completen argumentos sin disponer de las fuentes adecuadas. No es un fallo malintencionado; es una consecuencia técnica de su forma de trabajar: predicen texto plausible, no verdad jurídica contrastada. Para la abogacía, sin embargo, el resultado puede ser el mismo que si hubiera mala fe: citas inexistentes, doctrina inventada y un riesgo evidente para el cliente y para la responsabilidad profesional del letrado.

En este punto, el debate en la profesión ya no es si se debe utilizar IA, sino cómo. No es lo mismo buscar ideas generales en una herramienta abierta en la nube, que confiar en ella para fundamentar un recurso contencioso, analizar un contrato complejo o preparar una demanda con referencias jurisprudenciales concretas. En el segundo caso, entran en juego cuestiones que en el Congreso se han recordado de forma insistente: secreto profesional, privacidad, cumplimiento de la normativa de protección de datos y, sobre todo, posibilidad real de verificar qué hay detrás de cada respuesta que ofrece la máquina. Si la IA se ejecuta en servidores de terceros, con modelos generalistas cerrados y sin trazabilidad clara, el profesional asume un riesgo añadido que no siempre es evidente para el cliente. Y si además la herramienta puede mezclar alegaciones, antecedentes y fallo, o generar artículos inexistentes cuando el contexto es ambiguo, el margen de error se amplía de forma peligrosa.

En AbogaTIC llevamos años sosteniendo una idea sencilla: para que la IA sea compatible con la responsabilidad profesional del abogado, el foco no puede estar solo en la espectacularidad de las respuestas, sino en el control del entorno en el que se generan. HAL9000.Legal nace precisamente de esa premisa. No se apoya en APIs de terceros ni envía las consultas a infraestructuras ajenas: la propia página del proyecto insiste en que «no envía tus datos a terceros», que «procesamos en servidores propios, de nuestra propiedad, sin subcontratar con OpenAI (ChatGPT), Google (Gemini) ni ningún otro proveedor» y que puede ejecutarse incluso en el entorno del cliente. Esa arquitectura privada —con servidores en España, sin conexión externa para los documentos y prompts, y con control local del flujo de datos— aproxima la IA al estándar que la profesión viene reclamando: lo más cercano posible al secreto profesional en el plano tecnológico.

Esta diferencia de enfoque no es menor. La mayoría de soluciones del mercado intentan “convertir” un modelo generalista en abogado mediante un buen prompt o conjunto de instrucciones, manteniendo la dependencia de infraestructuras y políticas ajenas. HAL9000.Legal adopta otra ruta: parte de un modelo base de alto nivel y añade un postentrenamiento interno propio orientado al razonamiento jurídico, a la separación clara entre hechos, alegaciones, fundamentos y fallo, y a la reducción de “alucinaciones” en aquello que no consta en el texto. Según su propia documentación, se ha diseñado para «trabajar con más prudencia, más fidelidad al texto y menos errores críticos», y para que aprenda a «no inventar lo que no consta en el texto». Sobre esa base se articula además una arquitectura de privacidad específica: cifrado en reposo de los adjuntos, eliminación física tras su indexación, políticas de minimización y mecanismos de purga por identificador, todo ello operando en entornos controlados con modelos open‑source servidos localmente y sin canal de envío de datos a terceros.

Junto a la privacidad, la trazabilidad es otro punto clave que la noticia de Zamora vuelve a traer a primer plano. Cuando un abogado pide a una IA que localice doctrina o jurisprudencia útil, la herramienta debe ayudarle no solo a encontrar texto “verosímil”, sino a rastrear la fuente, separar el antecedente del fundamento y evitar mezclas que puedan distorsionar el sentido de una resolución. HAL9000.Legal incorpora recuperación aumentada con búsqueda vectorial, un sistema propio de reordenación pensado para priorizar las fuentes más relevantes en contexto legal y, en general, una arquitectura orientada a que cada respuesta esté anclada en documentos reales previamente aportados o indexados. A esto se suma una política de logs restrictiva: no se registran contenidos sensibles (prompts, documentos o transcripciones), limitándose los registros a eventos técnicos mínimos necesarios para el mantenimiento. Todo ello contribuye a algo que en el Congreso se reclamaba con insistencia: poder explicar, llegado el caso, de dónde ha salido un argumento generado por la IA y qué documentos lo sustentan.

Conviene, no obstante, no perder de vista un elemento jurídico esencial: la supervisión humana sigue siendo obligada. Las propias condiciones de servicio de HAL9000.Legal son explícitas al respecto: la herramienta «no sustituye el criterio profesional ni constituye asesoramiento jurídico» y es el usuario quien debe «verificar y validar los resultados antes de su uso profesional o jurídico», asumiendo la responsabilidad por las decisiones que adopte. Se trata de una cláusula de responsabilidad, pero también de un recordatorio ético y deontológico: ninguna IA —por muy especializada, privada o prudente que sea— exime al abogado de revisar las citas, contrastar la normativa aplicable, valorar la estrategia procesal y, en definitiva, ejercer la profesión con la diligencia exigible. La ventaja de un sistema como HAL9000.Legal no está en delegar el juicio jurídico, sino en facilitar análisis más rápidos y ordenados, con mejor control del dato y menor riesgo de que la máquina “rellene” los huecos con contenidos inventados.

El mensaje que sale de Zamora, en suma, puede leerse en dos planos. En el corto plazo, es una llamada de atención frente al uso acrítico de IA generalista en la redacción de escritos y la búsqueda de jurisprudencia: la profesión no puede permitirse fundamentar un recurso en una sentencia inexistente. En el medio y largo plazo, es un impulso para soluciones que combinen capacidad técnica con respeto efectivo al secreto profesional, a la privacidad y a la lógica propia del Derecho. La experiencia de desarrollo de HAL9000.Legal —IA jurídica privada, con servidores propios en España, sin APIs externas y con auditoría interna de privacidad pública— apunta a que es posible construir herramientas potentes sin renunciar a ese estándar. La clave, como siempre, estará en mantener el protagonismo allí donde nunca debió perderse: en el criterio del abogado que decide qué pregunta hace a la máquina, qué respuesta acepta y qué respuesta descarta. Fuente de la noticia: «Los abogados piden “responsabilidad” en el uso de la IA para su profesión: 'Chat GPT puede llegar a inventarse jurisprudencia y legislación'», La Opinión de Zamora, disponible en https://www.laopiniondezamora.es