¿De quién es la inteligencia? Congreso URJC y apuntes prácticos para la abogacía digital

El anuncio del congreso «¿De quién es la inteligencia? Copyright, soberanía y gobernanza de la IA» en la Universidad Rey Juan Carlos confirma que el eje IA‑Derecho ha dejado de ser un tema marginal para convertirse en una línea estable de trabajo académico y regulatorio. Bajo el paraguas de la Cátedra Telefónica‑URJC de Algorética, Derecho Digital y Gobernanza de Inteligencia Artificial, es previsible que se aborden cuestiones como la autoría de las obras generadas con IA, el uso de datos para entrenamiento de modelos, la soberanía tecnológica en un contexto de grandes proveedores globales y los modelos de gobierno y rendición de cuentas que deben acompañar a estos sistemas.

En la práctica profesional, estas discusiones se traducen en tres preguntas sencillas: ¿dónde están mis datos?, ¿qué modelo los procesa? y ¿según qué reglas? La memoria de HAL9000.Legal ofrece un ejemplo de cómo puede contestarse a estas cuestiones desde una perspectiva de control y soberanía del dato. La plataforma se presenta como una IA jurídica privada para despachos, con infraestructura propia en España y sin cesión operativa de las consultas a plataformas generalistas de IA. Esto significa que, según su documentación pública, los documentos del expediente, las consultas y las transcripciones se procesan en un entorno controlado, sin envío a terceros para entrenamiento o mejora de modelos externos.

La arquitectura de privacidad descrita en la auditoría interna de HAL9000 refuerza esta orientación. El sistema se ha diseñado para operar en un entorno privado del cliente, con una interfaz web local que gestiona adjuntos y sesiones, cifrado en reposo (LUKS) del volumen de uploads, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. OCR, embeddings, búsqueda y transcripción se ejecutan dentro de ese entorno privado, con persistencia controlada en bases locales y sin registrar prompts, documentos o transcripciones en los logs operativos. Además, el proveedor declara utilizar modelos open‑source servidos en infraestructura local, ejecutados íntegramente en el entorno del cliente, de forma que no exista canal de envío a terceros ni uso de datos para entrenamiento externo.

Si el congreso plantea quién es el titular de la inteligencia y de los contenidos que genera, el enfoque contractual también importa. En los términos del servicio de HAL9000 se indica que el usuario conserva los derechos sobre los materiales que introduzca en la plataforma, mientras que el software, la WebUI y los modelos orquestados son titularidad del proveedor o de sus licenciantes. Al mismo tiempo, se subraya que HAL9000 es una herramienta de asistencia para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia y elaboración y revisión de documentación, destinada a abogados y otros profesionales del Derecho como apoyo bajo su criterio y supervisión. No se presenta como sustituto de la valoración profesional ni como sistema de decisión autónoma.

Este matiz es especialmente relevante a la luz de los debates sobre gobernanza de la IA y posibles usos por autoridades públicas. Los términos del servicio de HAL9000 restringen expresamente el uso en el ámbito jurisdiccional a tareas auxiliares o preparatorias —búsqueda documental, organización de información, anonimizaciones—, excluyendo la valoración autónoma de la prueba, la interpretación y aplicación del Derecho a un conjunto concreto de hechos o la formulación de recomendaciones que influyan materialmente en el resultado de una resolución. Es una forma de alinear el diseño del sistema con las exigencias de prudencia y control humano que están en el centro de las propuestas regulatorias.

Otra derivada de la gobernanza de la IA es la trazabilidad. La memoria pública de HAL9000 detalla un ejercicio de evaluación end‑to‑end frente a su interfaz real: en una muestra de 120 consultas, el sistema mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes verificadas desde la propia interfaz, con una muestra estratificada por civil, penal, social y contencioso‑administrativo y en modo profundo con segunda opinión activada. El propio proveedor reconoce que esta trazabilidad verificable no prueba por sí sola un soporte semántico perfecto, pero sí aporta una señal de robustez documental y reduce opacidad: cada afirmación relevante debe ir acompañada de una fuente visible y revisable, lo que facilita la supervisión del abogado.

Desde el prisma del congreso, centrado en copyright, soberanía y gobernanza, es llamativa también la estrategia de post‑entrenamiento descrita por HAL9000. Frente a la práctica extendida de «maquillar» modelos generalistas mediante indicaciones, la plataforma afirma partir de un modelo base de alto nivel para someterlo a un post‑entrenamiento interno orientado al razonamiento jurídico: separación entre hechos, alegaciones, fundamentos y fallo; preferencia por no inventar lo que no consta en el texto; reconocimiento de límites y respuestas prudentes. De nuevo, el énfasis no está solo en usar IA, sino en modular su comportamiento para acercarlo a la práctica profesional y alejarlo de la improvisación típica de modelos generalistas cerrados.

Finalmente, la cuestión de la soberanía y el control no se agota en la tecnología: alcanza al régimen jurídico de prestación del servicio. HAL9000 opera a través de accesos temporales sin necesidad de registro con datos personales más allá de la información estrictamente necesaria para la facturación y el cumplimiento de obligaciones fiscales (nombre o razón social, NIF/CIF, domicilio fiscal, email y concepto/importe). La entrega del servicio es inmediata tras el pago, y la política de reembolsos reconoce la complejidad del derecho de desistimiento en servicios digitales de ejecución inmediata, ofreciendo no obstante un reembolso completo en supuestos de insatisfacción razonada o fallo técnico. Todo ello configura un marco que, sin eliminar riesgos, permite al despacho tomar decisiones más informadas sobre qué cede, qué conserva y qué exige de su proveedor de IA.

En definitiva, mientras la Cátedra Telefónica‑URJC impulsa el debate académico y normativo en torno al copyright, la soberanía y la gobernanza de la IA, la experiencia de soluciones como HAL9000 ilustra cómo esos conceptos se traducen, a pie de despacho, en decisiones sobre infraestructura propia en España, ausencia de subcontratación con IA genérica para el tratamiento de expedientes, trazabilidad verificable de las fuentes y límites claros a la finalidad del sistema. Son precisamente estos elementos —privacidad, control del dato, transparencia técnica y supervisión humana— los que deberían informar el diseño y la adopción de herramientas de IA en la práctica jurídica cotidiana.

Más información sobre el congreso «¿De quién es la inteligencia? Copyright, soberanía y gobernanza de la IA» puede consultarse en la web de la Universidad Rey Juan Carlos, fuente original de la noticia: https://www.urjc.es