De la neurociencia al juzgado: por qué la IA jurídica necesita menos magia y más control

El XI Encuentro de la UMI, del que da cuenta Economía 3, pone el foco en un cruce especialmente delicado: neurociencia, justicia e inteligencia artificial. No se trata solo de explorar nuevas capacidades —desde el análisis avanzado de información hasta posibles apoyos en la valoración de conductas o patrones—, sino de preguntarse qué papel corresponde a la máquina cuando lo que está en juego es la decisión jurídica. La experiencia de los últimos años muestra que, si no se delimitan claramente finalidad y responsabilidades, la fascinación por la tecnología puede difuminar algo tan básico como quién interpreta el Derecho, quién valora la prueba y quién responde del resultado.

Las advertencias de la comunidad jurídica suelen converger en dos ideas: la primera, que la IA no debe sustituir el juicio profesional ni la función jurisdiccional; la segunda, que la protección de la información —expedientes, borradores, pruebas— no admite atajos. Muchas soluciones de propósito general se apoyan en APIs externas, infraestructuras opacas o lógicas de reutilización de datos para entrenamiento que encajan mal con el deber de confidencialidad. Para un despacho o un órgano que trata asuntos sensibles, la pregunta práctica no es solo qué puede hacer el modelo, sino dónde se procesa cada documento, quién tiene acceso indirecto a él y qué rastro deja su tratamiento.

En paralelo, crece la demanda de transparencia sobre cómo llega la IA a una respuesta. El operador jurídico no solo quiere un texto bien redactado; necesita poder reconstruir el hilo que conecta esa respuesta con la legislación, la jurisprudencia o los documentos del expediente. Sin esa trazabilidad, el sistema se convierte en una caja negra que obliga al profesional a repetir desde cero el trabajo de verificación. La experiencia de uso en herramientas como HAL9000 muestra que la trazabilidad verificable —citas visibles, apertura correcta de fuentes desde la interfaz, mapa de entidades— es algo más que un añadido: es un mecanismo concreto para reducir opacidad, detectar errores y mantener el control intelectual sobre el caso.

La memoria de HAL9000 describe un enfoque deliberadamente prudente: IA jurídica privada pensada para expedientes reales, con infraestructura propia en España, sin envío de datos a proveedores externos de IA y basada en fuentes revisables. Su arquitectura sigue una lógica de minimización y control: uploads cifrados en reposo, eliminación física de archivos una vez indexados, procesamiento local de OCR, embeddings y transcripción de vídeo, y ausencia de registro de prompts y respuestas en los logs operativos. Se trata de decisiones de diseño que no «resuelven» por sí mismas todos los retos éticos, pero sí acotan mejor el riesgo de fuga de información y la dependencia de plataformas generalistas.

Desde la perspectiva funcional, la propia Abogacía Tecnológica limita la finalidad prevista de HAL9000. El sistema se presenta como herramienta de asistencia para investigación jurídica, análisis documental y elaboración o revisión de documentos, sujeta siempre al criterio y supervisión del profesional. De forma explícita se excluye que sirva para sustituir la valoración profesional o para que autoridades judiciales lo utilicen en la interpretación y aplicación del Derecho a un caso concreto, en la valoración de la prueba o en la adopción de resoluciones. Esa autolimitación es coherente con el tipo de preocupaciones que se debaten en foros como el XI Encuentro de la UMI: la IA puede apoyar, organizar, anonimizAR y recuperar información, pero la decisión y la motivación jurídica han de seguir siendo humanas.

Otra diferencia relevante está en el comportamiento del modelo. La documentación de HAL9000 insiste en que no se trata de «otro asistente generalista maquillado para Derecho», sino de un sistema con post-entrenamiento interno propio orientado al razonamiento jurídico, entrenado para no inventar lo que no consta en el texto y para separar hechos, alegaciones, fundamentos y fallo. En la práctica, este enfoque se alinea con la necesidad de reducir errores críticos y alucinaciones en entornos donde un matiz en la cita de un artículo o una sentencia puede cambiar el sentido de una estrategia procesal. No se elimina el deber de revisión, pero sí se refuerza el marco para que la revisión sea posible, rápida y trazable.

En definitiva, mientras la agenda académica y judicial explora las fronteras de la IA en la justicia —incluida su relación con la neurociencia y la toma de decisiones—, el mercado empieza a madurar propuestas más sobrias: sistemas cerrados en términos de datos, desplegados en infraestructura nacional, centrados en tareas auxiliares de alto valor añadido (anonimización, organización de expedientes, recuperación inteligente, redacción inicial) y sometidos al control de quien asume la responsabilidad última. No es un enfoque tan llamativo como prometer «jueces artificiales», pero encaja mucho mejor con las exigencias de privacidad, independencia y trazabilidad que reclama el Estado de Derecho.

Puede consultarse la noticia original sobre el XI Encuentro de la UMI, «De la neurociencia a la justicia: el XI Encuentro de la UMI explora las nuevas fronteras de la IA», en Economía 3, disponible en https://economia3.com.