Universidad, justicia e IA: por qué el debate ya no es futurible (y qué podemos aportar desde la práctica diaria)

La noticia de Europa Press sobre la jornada que la Universidad de Sevilla dedica a los grandes retos de la inteligencia artificial para la justicia y la sociedad encaja con una tendencia clara: la IA ha dejado de ser un asunto estrictamente tecnológico para convertirse en un asunto institucional. Universidades, colegios profesionales y órganos de gobierno del poder judicial empiezan a asumir que, si la IA va a estar presente en la práctica jurídica diaria, es necesario dotarse de criterios técnicos y jurídicos para su uso. El centro del debate ya no es tanto si la IA debe entrar en juzgados y despachos, sino bajo qué condiciones puede hacerlo sin deteriorar garantías básicas como la independencia judicial, la protección de datos o el derecho de defensa.

En ese contexto, la propia práctica de muchos despachos y operadores se está orientando hacia modelos de IA jurídica más controlables. Una de las cuestiones que previsiblemente ocuparán espacio en foros como el de la Universidad de Sevilla es dónde se procesan los datos, quién tiene acceso a ellos y con qué finalidad. La experiencia con soluciones generalistas ha evidenciado que remitir consultas y documentos sensibles a infraestructuras externas, fuera de España o de la UE, o que se nutren de los datos de los usuarios para mejorar modelos, plantea problemas jurídicos inmediatos: desde el cumplimiento del RGPD hasta la preservación del secreto profesional o el deber de confidencialidad en la Administración de Justicia.

La aproximación que seguimos en HAL9000 intenta responder justamente a esos puntos de fricción. La plataforma se ha diseñado como una IA jurídica privada para profesionales del Derecho, con infraestructura propia en España y sin envío de datos de los expedientes a proveedores externos de IA. Esta arquitectura busca reducir tres riesgos muy concretos: la exposición innecesaria de documentación sensible, la dependencia técnica de plataformas generalistas y la opacidad sobre qué ocurre con las consultas una vez salen del entorno del despacho o de la institución. El informe de auditoría de privacidad de HAL9000 describe, además, un modelo de despliegue en entorno privado del cliente, con procesamiento local de documentos, cifrado en reposo del volumen de uploads y mecanismos de eliminación física tras la indexación, junto con políticas de logs que evitan registrar contenidos sensibles.

En el ámbito judicial, la cuestión clave no es solo tecnológica, sino de finalidad y límites de uso. Los propios términos del servicio de HAL9000 acotan de forma expresa el uso que pueden hacer jueces y magistrados: el sistema está previsto como herramienta de apoyo para tareas auxiliares (consulta de información, búsqueda documental, organización de expedientes, anonimizaciones, transcripción), pero no para valorar pruebas, interpretar el Derecho aplicado a hechos concretos ni formular recomendaciones que influyan materialmente en el sentido de una resolución. Esta distinción, que puede parecer formal, es en realidad una pieza importante del debate que probablemente aborden jornadas como la de Sevilla: cómo aprovechar las eficiencias de la IA sin desplazar el núcleo de la función jurisdiccional a un sistema automatizado.

Otro de los retos habituales en el debate académico y práctico sobre IA y justicia es el de la trazabilidad. Si un modelo genera un borrador de demanda, un esquema de informe o una síntesis de jurisprudencia, el profesional necesita poder seguir el rastro de esa información. HAL9000 se ha construido precisamente con esa necesidad en mente: trabaja con fuentes revisables, ofrece trazabilidad mediante citas verificables y un mapa de fuentes, y ha sido evaluado en un benchmark extremo a extremo sobre su interfaz real. En una muestra de 120 consultas, la plataforma mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes desde la propia interfaz. Esta clase de pruebas no garantizan por sí solas la corrección jurídica de todas las conclusiones, pero sí aportan una señal objetiva de robustez documental y reducen la posibilidad de que una afirmación llegue al abogado o al juez sin una referencia a texto revisable.

La diferencia entre un modelo generalista con un simple cambio de instrucciones y un sistema ajustado para trabajo jurídico cotidiano también forma parte del debate que necesitamos tener en las facultades de Derecho. HAL9000 parte de un modelo base de alto nivel, pero ha sido objeto de un postentrenamiento interno específico para adaptarlo al razonamiento jurídico, enseñarle a separar hechos, alegaciones, fundamentos y fallo, y entrenarlo para no inventar lo que no consta en los textos de referencia. No se trata de presentar la herramienta como infalible —no lo es—, sino de explicitar qué se ha hecho para acercarla a la lógica de trabajo de un profesional del Derecho y para que reconozca sus propios límites, respondiendo con prudencia cuando la información es ambigua o insuficiente.

Las jornadas universitarias, como la que organiza la Universidad de Sevilla, son un buen lugar para confrontar este tipo de aproximaciones con las preocupaciones teóricas y normativas. El desafío inmediato no pasa solo por aprobar leyes o guías éticas, sino por ayudar a que jueces, letrados de la Administración de Justicia, funcionarios, abogados y procuradores entiendan qué pueden pedirle a un sistema de IA, qué no deben delegar nunca y qué garantías mínimas deberían exigir a cualquier proveedor. En nuestra experiencia, cuando se explican con concreción elementos como servidores propios en España, ausencia de subcontratación con IA genérica, trazabilidad visible y límites claros de uso en función jurisdiccional, el debate deja de ser abstracto y pasa a ser operativo: cómo integrar estas herramientas en el día a día sin perder control sobre los datos ni sobre las decisiones.

Para quien quiera seguir la información original sobre la jornada de la Universidad de Sevilla dedicada a los grandes retos de la inteligencia artificial para la justicia y la sociedad, la noticia puede consultarse en Europa Press a través de su sitio web: https://www.europapress.es.