IA en la Administración pública: qué debate necesitamos desde el Derecho (y qué estamos viendo en la práctica)

La noticia de la Universidad de Murcia —«La Facultad de Derecho analiza el impacto de la inteligencia artificial en la Administración pública desde una perspectiva jurídica y práctica»— encaja en un momento en el que la IA ha pasado de ser una curiosidad tecnológica a una herramienta real en manos de administraciones y operadores jurídicos. Que una Facultad de Derecho dedique una actividad específica a este tema indica que las preguntas ya no son solo técnicas (qué modelo es más potente), sino claramente jurídicas: cómo se justifican las decisiones, qué margen de discrecionalidad se delega en sistemas automatizados, cómo se salvaguardan derechos fundamentales en procedimientos donde cada vez intervienen más herramientas algorítmicas.

En el marco del Derecho público, la IA plantea retos añadidos respecto de otros contextos: la Administración debe actuar con sometimiento pleno a la ley y al Derecho, con transparencia, motivación suficiente y respeto a principios como la igualdad de trato y la interdicción de la arbitrariedad. Un uso irreflexivo de modelos generalistas, alojados en infraestructuras ajenas y con escasa visibilidad sobre el tratamiento de datos, puede tensionar seriamente estos principios. De ahí el interés de que el análisis universitario se anuncie expresamente como «jurídico y práctico»: no basta con describir la tecnología, es necesario confrontarla con obligaciones concretas de protección de datos, procedimiento administrativo, contratación pública o control judicial de la actividad administrativa.

En este contexto, la experiencia de herramientas especializadas como HAL9000.Legal resulta ilustrativa de hacia dónde pueden orientarse las exigencias jurídicas en materia de diseño y despliegue de IA. A diferencia de soluciones basadas en APIs de terceros, HAL9000.Legal se concibe como una IA jurídica privada, alojada en infraestructura propia en España, sin subcontratación del procesado de consultas a plataformas generalistas ni cesión operativa de datos. El informe interno de auditoría de privacidad publicado en 2026 describe una arquitectura en la que el procesamiento —incluidos OCR, embeddings, búsqueda y transcripción— se realiza dentro del entorno privado del cliente, con cifrado en reposo del volumen de subida, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. Son decisiones de diseño que dialogan directamente con principios de minimización, limitación de la finalidad y control sobre el ciclo de vida del dato que tanto preocupan a los juristas de lo público.

Otra de las cuestiones que previsiblemente se abordarán en espacios como el de la Universidad de Murcia es la trazabilidad de las decisiones apoyadas en IA. El problema no es solo «qué contesta» el sistema, sino «de dónde lo ha sacado» y hasta qué punto el profesional —o la Administración— puede reconstruir el itinerario argumental. Aquí, HAL9000.Legal ha optado por una orientación clara: trabajar con fuentes revisables y trazabilidad verificable en la propia interfaz. El benchmark E2E que se ha hecho público no mide un modelo aislado, sino la experiencia real del abogado: en 120 consultas se generaron 794 citas visibles y se comprobó que las 794 fuentes se abrían correctamente desde la interfaz. Aunque esto no garantiza por sí solo un soporte semántico perfecto, sí ofrece una señal de robustez documental y reduce el riesgo de que un operador jurídico asuma como cierta una afirmación sin poder comprobar la fuente que la sustenta.

Junto a la trazabilidad, el otro eje del debate académico será previsiblemente el reparto de responsabilidades entre IA y humano. HAL9000.Legal fija una posición nítida en sus términos del servicio: es una herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico, y es el usuario quien debe verificar y validar los resultados antes de cualquier uso profesional o jurídico. La plataforma está pensada para profesionales del Derecho que trabajan con expedientes reales, y subraya que la responsabilidad sobre cómo se usan las salidas del sistema recae en el jurista. Este enfoque encaja mejor con las exigencias de control humano efectivo que se están consolidando tanto en el debate doctrinal como en los borradores regulatorios sobre IA, y ofrece un contraste claro frente a visiones excesivamente automatizadas de la toma de decisiones administrativas.

Por último, la auditoría de privacidad de HAL9000.Legal aporta otro elemento que previsiblemente estará sobre la mesa en la Facultad de Derecho de la UMU: la gestión operativa de logs y metadatos. El documento especifica que no se registran contenidos sensibles (prompts, documentos o transcripciones) en logs, y que la retención se limita a eventos técnicos mínimos, gobernados por TTL y mecanismos de purga verificables. En un entorno administrativo, donde el cumplimiento de obligaciones de archivo, transparencia y protección de datos debe compaginarse con la seguridad de la información, este tipo de políticas ayudan a demostrar que la IA no es necesariamente sinónimo de exposición descontrolada de datos, siempre que la arquitectura esté diseñada desde el inicio con criterios de privacidad y gobernanza.

En definitiva, la iniciativa de la Facultad de Derecho de la Universidad de Murcia pone sobre el tablero las preguntas adecuadas: cómo integrar la IA en la Administración sin debilitar garantías, cómo asegurar la motivación y trazabilidad de las resoluciones, qué modelos de responsabilidad son compatibles con el uso intensivo de sistemas automatizados y qué requisitos técnicos deben exigirse en la contratación pública de este tipo de soluciones. Mientras el mundo académico afina el marco conceptual y jurídico, herramientas como HAL9000.Legal muestran, con sus decisiones concretas de infraestructura en España, ausencia de envío de datos a terceros, trazabilidad de fuentes y configuración para uso supervisado por juristas, que es posible construir IA alineada con las exigencias del Derecho. El reto, a partir de ahora, será que la Administración sepa traducir estas lecciones en pliegos, cláusulas y prácticas cotidianas. Más información sobre la noticia puede consultarse en el portal de la Universidad de Murcia: https://www.um.es