Mariñán, IA y Derecho: por qué los límites jurídicos importan más que nunca

La noticia de ACoruñaXa, al señalar que «a intelixencia artificial leva a debate xurídico os seus límites en Mariñán», es un síntoma más de algo que ya se percibe en jornadas, congresos y conversaciones de pasillo: la fase de fascinación acrítica por la IA está dando paso a una etapa de discusión jurídica seria. En un entorno como el gallego, con fuerte implantación de profesiones jurídicas y una red universitaria activa, no sorprende que el debate salga del plano puramente tecnológico y entre de lleno en la reflexión sobre derechos, garantías y responsabilidad.

Cuando la IA se cruza con el Derecho, la palabra “límites” deja de ser abstracta. Hablamos de cuestiones muy concretas: ¿dónde se procesan los documentos del cliente?, ¿quién tiene acceso potencial a esa información?, ¿se almacenan prompts, borradores o historiales?, ¿pueden reutilizarse los datos del despacho para entrenar modelos de terceros?, ¿qué pasa si el sistema se equivoca al citar una norma o interpreta mal un fallo? Estas preguntas no son retóricas: afectan al secreto profesional, a la protección de datos, al deber de diligencia del abogado y, en última instancia, a la confianza del cliente.

El modelo dominante en muchas herramientas de IA genérica es claro: procesamiento de la información en infraestructuras de grandes proveedores tecnológicos, con modelos generalistas que se intentan “convertir” en juristas a base de instrucciones (prompts) y capas de interfaz. Este esquema, cómodo y potente desde el punto de vista técnico, plantea sin embargo varias fricciones jurídicas: dependencia absoluta de terceros, limitada capacidad de auditoría y control sobre cómo y dónde se tratan los datos, y un comportamiento del modelo que no siempre está alineado con el rigor que exige un asunto judicial o un dictamen complejo.

Frente a ese enfoque, empiezan a consolidarse alternativas jurídicas especializadas que asumen que el límite principal no es tecnológico, sino jurídico. HAL9000.Legal es un ejemplo de esta segunda vía: se presenta como una IA jurídica privada que no envía los datos a terceros, que funciona en servidores en España —ya sean propios del proveedor o del propio despacho— y que evita la subcontratación con grandes modelos genéricos como los de OpenAI o Google. Esto no elimina por completo el riesgo —ningún sistema lo hace—, pero sí cambia el punto de equilibrio: el control del dato pasa a manos del cliente y se reduce de forma significativa la exposición a infraestructuras externas opacas.

Desde el punto de vista de privacidad y protección de datos, el diseño técnico descrito en la propia documentación interna de HAL9000 apunta en esa dirección: modelos open‑source servidos en infraestructura local o propia, sin canal de envío a terceros ni uso de datos para entrenamiento externo; cifrado en reposo del volumen de documentos subidos; eliminación física de archivos una vez indexados; uso de OCR, embeddings, búsqueda y transcripción dentro del entorno privado; y una política de logs que excluye contenidos sensibles como prompts, documentos o transcripciones. Todo ello, acompañado de mecanismos de purga y trazabilidad mediante identificadores internos. Es una arquitectura pensada expresamente para que el despacho pueda justificar cómo protege la información que gestiona.

Pero el debate de Mariñán no se agota en la privacidad. También se refiere a cómo razona la IA y qué papel conserva la persona profesional. La propia filosofía de HAL9000 va en la línea de ese límite: se trata de una herramienta de apoyo, no de un sustituto del criterio humano. Sus términos de servicio lo subrayan expresamente: no constituye asesoramiento jurídico, y el usuario conserva la responsabilidad de verificar y validar los resultados antes de utilizarlos profesionalmente. Esta premisa encaja con la visión más prudente defendida por muchos colegios y universidades: la IA como asistente que ayuda a analizar documentación, localizar fundamento útil, contrastar citas y preparar borradores, pero con supervisión humana constante y responsabilidad final del jurista.

En lo técnico, HAL9000 parte de un modelo base de alto nivel, pero incorpora un post‑entrenamiento interno orientado al trabajo jurídico. No se limita a “dar instrucciones” a una IA genérica para que se comporte como abogado, sino que ajusta el modelo para que separe hechos, alegaciones, fundamentos y fallo; para que reduzca la invención de artículos o doctrina no visible; y para que reconozca mejor los límites de la información disponible. Traducido al plano práctico, esto significa menos improvisación y mayor fidelidad al texto, dos cualidades que encajan con las preocupaciones que se discuten en foros jurídicos como el de Mariñán: cómo reducir al máximo las “alucinaciones” y cómo respaldar cada conclusión en un soporte textual verificable.

La trazabilidad también forma parte del núcleo del debate. La arquitectura de HAL9000 incorpora recuperación aumentada con búsqueda vectorial y un sistema propio de citación y verificación orientado al entorno legal. Esa lógica permite no solo encontrar normas, precedentes o documentos internos relevantes, sino también documentar de dónde sale lo que el modelo afirma. En un contexto en el que se discute si la IA puede o no utilizarse para fundamentar escritos, esta capacidad de rastrear las fuentes es clave: permite que la persona profesional revise los materiales, contraste las referencias y corrija errores antes de asumirlos como propios.

Junto a ello, la política contractual de HAL9000 refuerza la idea de límite y responsabilidad: uso reservado a profesionales del ámbito jurídico, acceso temporal por sesiones (sin necesidad de registro con datos personales más allá de los imprescindibles para facturación), y una cláusula específica que limita la responsabilidad del proveedor y recuerda que el usuario asume las decisiones que adopta a partir de los resultados. Este enfoque puede resultar menos cómodo que un asistente “mágico” que promete respuestas infalibles, pero es jurídicamente más honesto y encaja mejor con lo que previsiblemente se abordará en foros como el de Mariñán: distribución de responsabilidades, expectativas realistas y deber de verificación.

La consecuencia práctica para la abogacía es clara: el debate ya no es si conviene o no usar IA, sino qué condiciones mínimas debe cumplir cualquier solución que entre en el despacho. Localización de servidores, ausencia de subcontratación con IA genérica para procesar los casos, control técnico y jurídico sobre los flujos de datos, posibilidad de auditar y purgar información, y un diseño que asuma la supremacía del criterio profesional. El caso de Mariñán sirve, en definitiva, como recordatorio de que cada elección tecnológica tiene un contenido jurídico. Elegir una IA jurídica privada en servidores propios en España, sin APIs externas y sin entrenamiento con los datos del cliente, no es solo una opción técnica: es una forma concreta de materializar el secreto profesional y la diligencia debida en la era de la IA.

Fuentes: noticia original «A intelixencia artificial leva a debate xurídico os seus límites en Mariñán» publicada en ACoruñaXa (O Xornal de A Coruña | GaliciaXa), disponible en https://acorunaxa.com.