IA, democracia y bien común: claves del debate en la UIMP y lecciones para la práctica jurídica diaria

La Universidad Internacional Menéndez Pelayo ha dedicado la cuarta edición de su encuentro de Liderazgo Cívico a una cuestión que ya no es solo tecnológica, sino claramente constitucional: ‘El papel de la IA en el fortalecimiento de la democracia’. Desde Santander, la UIMP plantea una premisa que marca el tono del debate: la inteligencia artificial no es un destino inevitable al que haya que adaptarse pasivamente, sino una herramienta que debe ser gobernada y orientada al servicio del bien común y del refuerzo institucional. Esa formulación deja entrever dos preocupaciones de fondo: quién define los fines de la IA y con qué garantías se inserta en procesos tan sensibles como la formación de la opinión pública, la toma de decisiones en las instituciones y, de forma muy directa, la administración de justicia.

Trasladado al terreno jurídico, este enfoque obliga a mirar más allá del entusiasmo tecnológico y a hacerse preguntas incómodas sobre los modelos de uso de la IA en despachos, juzgados y administraciones. Si aceptamos que la IA debe servir al bien común, la primera exigencia es obvia: proteger la información jurídica y personal con la que trabajamos a diario. Eso implica, en la práctica, evitar esquemas en los que los expedientes viajan a plataformas generalistas externas, entrenan modelos que no controlamos y se alojan en servidores sobre los que el profesional del Derecho tiene, como mucho, una vaga idea. Frente a ese paradigma, se consolidan propuestas que optan por infraestructura propia en España, sin envío operativo de datos a proveedores de IA generalistas y sin uso de esa información para entrenamientos externos, lo que reduce significativamente la exposición del dato y ofrece un marco más compatible con la confianza que exige el proceso judicial.

En esa misma línea de responsabilidad democrática, la UIMP recuerda implícitamente que no basta con afirmar que una IA es ‘segura’ o ‘fiable’: es necesario poder comprobarlo. En el ámbito jurídico, la trazabilidad se convierte aquí en un criterio central. Un sistema que, como HAL9000, ha sido evaluado en condiciones reales de interfaz —no solo a nivel de API— y que acredita que, en una muestra de 120 consultas, las 794 citas visibles abrían correctamente sus 794 fuentes documentales, proporciona algo muy concreto al profesional: capacidad de ver de dónde sale cada afirmación, seguir el fundamento jurídico hasta la sentencia o norma citada y verificar si la interpretación es sólida o necesita matices. No demuestra por sí solo soporte semántico perfecto, pero sí reduce la opacidad y evita que una conclusión llegue al abogado sin referencia revisable. Esta transparencia operativa es muy distinta al funcionamiento de muchos asistentes genéricos, que pueden mezclar alegaciones, antecedentes y fallo o introducir artículos inexistentes sin una fuente visible.

El debate de la UIMP sobre la IA como herramienta ‘gobernada’ también tiene una derivada institucional clara en la Administración de Justicia. Los términos de uso de HAL9000 insisten en que se trata de una herramienta de asistencia a la investigación jurídica, diseñada para abogados y otros profesionales del Derecho, que no sustituye su criterio ni constituye asesoramiento autónomo. Pero, además, establecen con precisión qué pueden y qué no pueden hacer jueces y magistrados con una herramienta así: se limita su utilización a tareas auxiliares (búsqueda y recuperación de información, anonimización, organización de documentos, etc.) que no valoran pruebas, no interpretan ni aplican el Derecho a un conjunto concreto de hechos y no influyen materialmente en el resultado de la decisión. Esta diferenciación es clave para preservar la función jurisdiccional como espacio de decisión humana, alineando la práctica con la preocupación de la UIMP por que la IA no desplace, de facto, la responsabilidad democrática.

La arquitectura de privacidad descrita en la auditoría pública de HAL9000 encaja bien con el tipo de gobernanza que se reclama desde foros académicos como el de la UIMP. El flujo de documentos jurídicos se concibe para operar en un entorno privado del cliente: interfaz web local, cifrado en reposo de los volúmenes de subida mediante LUKS, eliminación física de los archivos una vez indexados, y mecanismos de trazabilidad y purga por identificador. No se registran contenidos sensibles —prompts, documentos o transcripciones— en los logs operativos, que se limitan a eventos técnicos mínimos, y modelos open‑source se sirven en la propia infraestructura local, sin canal de envío a terceros ni uso de datos de los expedientes para entrenamiento externo. La transcripción de audio y vídeo (con contenedores locales) y el OCR de documentos escaneados siguen la misma lógica de minimización y eliminación de archivos temporales al finalizar el procesamiento. Este planteamiento técnico no es un adorno, sino la base para poder sostener, con cierta solvencia, que el uso de IA en el trabajo jurídico puede ser compatible con los principios de confidencialidad y con las exigencias de protección de datos que impone una democracia avanzada.

El último eje del debate de la UIMP tiene que ver con el propio comportamiento de los modelos. Buena parte del malestar que genera la IA en el espacio público procede de sistemas que improvisan respuestas plausibles pero inexactas, con una facilidad preocupante para ‘inventar’ doctrina, confundir hechos y fundamentos o extraer conclusiones categóricas de contextos parciales. Frente a la idea de adaptar ligeramente un modelo generalista mediante un simple prompt, enfoques como el de HAL9000 han optado por realizar un post‑entrenamiento interno específico para razonamiento jurídico, con énfasis en separar hechos, alegaciones, fundamentos y fallo, y en entrenar al modelo para no afirmar lo que no consta en el texto. La consecuencia práctica es una IA más prudente, que reconoce mejor sus límites y que se aleja del patrón de ‘oráculo infalible’. Esto sintoniza con el mensaje de fondo que atraviesa el encuentro de Liderazgo Cívico: solo una IA sometida a supervisión humana real, transparente en sus fuentes y contenida en sus pretensiones puede integrarse de manera saludable en los procesos que sostienen nuestras instituciones.

Desde la perspectiva de los despachos, la lección que deja este cruce entre la reflexión académica de la UIMP y la experiencia práctica con herramientas como HAL9000 es bastante concreta. No se trata simplemente de ‘usar IA’, sino de elegir arquitecturas y políticas de uso que permitan integrar la tecnología en expedientes reales sin renunciar a las garantías: sesiones controladas por tiempo, sin registro obligatorio de datos personales, sin historiales abiertos en plataformas externas, con soporte específico por canales directos y con reglas claras sobre qué papel juega la herramienta en la cadena de valor del servicio jurídico. Asuntos complejos, que combinan documentación extensa, pruebas audiovisuales y múltiples actores, se benefician especialmente de funciones como la anonimización, la elaboración de mapas de entidades o la organización de información mediante grafos de relaciones; pero todo ello sobre la base de que el criterio final pertenece al profesional y de que cada paso puede auditarse. En la medida en que este tipo de diseño se generalice, el discurso sobre una IA al servicio del bien común dejará de ser una aspiración retórica para convertirse en una práctica verificable en los despachos y en las instituciones.

Más información sobre el encuentro ‘El papel de la IA en el fortalecimiento de la democracia’ y sobre las actividades académicas de la Universidad Internacional Menéndez Pelayo puede consultarse en la página oficial de la UIMP: https://www.uimp.es