IA, derecho a la vida y educación: lo que deja París para la práctica jurídica diaria

La crónica desde París sitúa a León XIV en el centro de un debate que ya trasciende lo estrictamente religioso: qué papel debe aceptar la sociedad para los sistemas de IA cuando están en juego derechos básicos como la vida y la educación. Aunque los titulares se concentran en la puesta en escena —recorridos en 'papamóvil', estadios llenos y vigilias juveniles—, en el trasfondo late una preocupación concreta: la delegación silenciosa de decisiones relevantes en algoritmos opacos, muchas veces diseñados y alojados muy lejos de los entornos donde se aplican.

El derecho a la vida aparece hoy ligado a sistemas de IA que participan en contextos de seguridad, salud, control fronterizo o conflictos armados. Incluso cuando la IA no decide de forma autónoma, su uso en la elaboración de informes, en la valoración de riesgos o en el tratamiento masivo de datos puede influir en decisiones que afectan directamente a la integridad física de las personas. En el entorno jurídico, esto se traduce en la necesidad de revisar con especial cuidado cualquier flujo de trabajo en el que informes generados por modelos puedan, de facto, condicionar resoluciones, estrategias procesales o políticas públicas con impacto en la seguridad.

La otra gran preocupación señalada en los discursos de León XIV es la educación. No se trata solo de la presencia de la IA en las aulas, sino de qué tipo de profesionales estamos formando: si juristas que comprenden los límites, sesgos y dependencias de la IA, o simples operadores de herramientas cerradas. En Derecho, esto tiene una consecuencia inmediata: la exigencia de que la IA empleada en la práctica profesional sea escrutable, permita rastrear las fuentes en las que se apoya y no genere una dependencia excesiva de plataformas que escapan al control del despacho o de la Administración de Justicia.

En este contexto, la cuestión ya no es tanto si usar IA en los despachos y tribunales, sino cómo. La memoria interna de AbogaTIC sobre HAL9000 describe un enfoque que responde a varias de las preocupaciones emergentes: se trata de una IA jurídica privada, orientada a profesionales del Derecho, desplegada en infraestructura propia en España y sin cesión operativa de las consultas a proveedores generalistas de IA. Esto reduce la exposición del dato, facilita el cumplimiento normativo en materia de privacidad y limita el riesgo de que documentos sensibles circulen por servicios externos sobre los que el profesional no tiene control real.

El modelo de uso previsto de HAL9000 también está alineado con una idea recurrente en los discursos de París: la IA como herramienta de apoyo, no como sustituto del juicio humano. Los propios Términos del servicio enfatizan que HAL9000 es un sistema de asistencia profesional para investigación jurídica, recuperación y análisis documental y elaboración o revisión de documentación, dirigido a abogados y otros juristas, y que "no sustituye el criterio profesional, no toma decisiones jurídicas y no constituye asesoramiento jurídico autónomo". Incluso en el eventual uso por jueces o magistrados, los Términos acotan su papel a tareas auxiliares (búsqueda, organización de información, anonimización, etc.), excluyendo expresamente la valoración de pruebas, la interpretación y aplicación del Derecho a un conjunto concreto de hechos o la formulación de recomendaciones sobre el caso.

Otra línea de preocupación presente en el debate internacional es la opacidad de los sistemas de IA: respuestas que llegan al usuario sin posibilidad de verificar de dónde proceden los datos o cómo se han construido los argumentos. Frente a ese riesgo, HAL9000 se plantea como una herramienta con trazabilidad reforzada: trabaja con fuentes revisables, proporciona citas verificables y un mapa de fuentes que permite seguir el fundamento jurídico y localizar los elementos relevantes del expediente. El propio benchmark interno E2E publicado por Abogatic señala que, en una muestra de 120 consultas, se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes desde la interfaz, lo que apunta a una práctica sistemática de no dejar al profesional ante afirmaciones sin referencia comprobable.

La dimensión de privacidad, clave cuando se habla de derechos fundamentales, se aborda en el informe de auditoría de HAL9000. Según esa documentación, el sistema se ha diseñado para operar en un entorno privado del cliente, con procesamiento local de documentos jurídicos, cifrado en reposo del volumen de subidas, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. No se registran contenidos sensibles en logs y los modelos de IA utilizados son open‑source servidos en infraestructura local, sin canal de envío de datos a terceros ni uso de esos datos para entrenamiento externo. Esta arquitectura minimiza la huella de datos y ofrece al profesional un mayor control sobre qué se guarda, durante cuánto tiempo y con qué fines.

Todo ello dibuja una respuesta parcial pero concreta a las inquietudes que se expresan, de forma más general, desde París: es posible integrar IA en la práctica jurídica diaria de manera compatible con la protección de derechos fundamentales, siempre que se respeten algunos criterios básicos. Entre ellos, trabajar con servidores y bases de datos bajo jurisdicción conocida (en este caso, España), evitar la subcontratación opaca con plataformas generalistas, garantizar la trazabilidad documental de las respuestas y mantener claro, contractual y técnicamente, que la IA asiste pero no decide. El resto depende ya de la cultura profesional: exigir explicaciones a la tecnología con la misma naturalidad con la que se las exigimos a un perito.

Fuente original de la noticia: "Informe desde París: IA, derecho a la vida y educación, temas centrales de discursos de León XIV", France 24, disponible en https://www.france24.com (fecha RSS: 25 de septiembre de 2026).