Desarmar la IA: del llamamiento del Papa a la práctica jurídica diaria

La pieza de Diario de Avisos sobre la visita papal a Canarias apenas deja entrever el contenido completo del discurso, pero sí destaca un titular contundente: “El Papa: desarmar la IA, apoyar las migraciones y la justicia social”. Es una síntesis de tres preocupaciones que se cruzan con el Derecho a diario. Cuando se habla de “desarmar la IA”, no se está discutiendo un ajuste menor de parámetros técnicos, sino la necesidad de limitar sus posibles usos lesivos: decisiones opacas que afectan a personas vulnerables, tratamientos masivos de datos sin control efectivo y automatización de juicios de valor que deberían permanecer en manos humanas.

En el terreno jurídico, este tipo de llamamientos encaja con debates ya abiertos por el Reglamento europeo de IA, por la protección de datos y por la propia deontología profesional. El abogado o la abogada que utiliza IA no puede desentenderse de la procedencia del modelo, de dónde se procesan los documentos y de qué rastro dejan. Delegar la redacción de un escrito o el análisis de un expediente en una IA genérica que funciona en servidores de terceros, sin saber cómo se almacenan o reutilizan esos datos, tensiona directamente el secreto profesional y la confianza del cliente.

Frente a ese escenario, están cobrando peso las soluciones que buscan reducir la superficie de riesgo. HAL9000 se presenta precisamente como una IA jurídica privada, pensada para operar en servidores propios (del proveedor o del despacho) ubicados en España, sin conexión a APIs externas y sin enviar los datos a terceros para su procesamiento. La propia web de AbogaTIC insiste en que no se subcontrata con proveedores generalistas como OpenAI o Google para el funcionamiento ordinario del sistema, y que el modelo se ha ajustado internamente al razonamiento jurídico, no simplemente “enriquecido” con instrucciones genéricas.

Esa orientación se refuerza en el informe interno de auditoría de privacidad, que describe una arquitectura centrada en el control local de los datos: interfaz web que se apoya en servicios internos, cifrado en reposo de los volúmenes de subida de documentos (mediante LUKS), y eliminación física de los archivos una vez completado el proceso de indexación vectorial. Además, se detalla que la inferencia se realiza con modelos open‑source ejecutados en la propia infraestructura del cliente o del proveedor, sin canales de envío a terceros ni uso de los datos para entrenamiento externo. Incluso en los servicios auxiliares (OCR, transcripción con Whisper), el procesamiento se ejecuta en contenedores locales que descartan los archivos temporales al finalizar la tarea.

Para el profesional del Derecho, la diferencia práctica está en la trazabilidad y en la posibilidad de auditoría: el informe señala el uso de identificadores internos para adjuntos y sesiones que permiten revisar qué se ha indexado y, llegado el caso, activar mecanismos de purga. También aclara que los logs se limitan a eventos técnicos mínimos, sin registrar el contenido de prompts, documentos o transcripciones, lo cual reduce sustancialmente la exposición de información sensible en sistemas de monitorización. Esto no elimina todo riesgo —ningún sistema lo hace—, pero sí encaja mejor con una cultura de minimización de datos y con la idea de que la IA debe estar al servicio del secreto profesional, no al revés.

Los propios términos y condiciones de HAL9000 subrayan otro punto que, en cierto modo, también responde al llamamiento a “desarmar” la IA: la plataforma no constituye asesoramiento jurídico y no sustituye el criterio profesional. Abogacía Tecnológica advierte que los resultados son generados automáticamente, que no se garantiza su exactitud o adecuación al caso concreto, y que corresponde al usuario verificar y validar cualquier propuesta antes de emplearla profesionalmente. Es decir, se afirma por contrato lo que debería ser una obviedad deontológica: la última palabra no puede ser de un modelo estadístico, por más sofisticado que sea.

Si se sitúa todo esto junto al mensaje papal —IA, migraciones, justicia social—, aparece una lectura jurídica bastante clara: la tecnología no es neutral cuando se aplica sobre colectivos vulnerables o sobre derechos fundamentales. Que un sistema jurídico automatizado “decida” qué expedientes examinar primero, qué perfiles son de riesgo o qué reclamaciones son menos viables puede tener consecuencias directas en términos de discriminación o exclusión. Por eso, más allá del discurso religioso, la invitación a “desarmar” la IA puede entenderse como un recordatorio de que el Derecho debe poner límites materiales y procedimentales a la automatización: transparencia, documentación de los flujos de datos, posibilidad real de revisión humana y, cuando proceda, la opción de no utilizar IA.

Para la comunidad jurídica que experimenta con herramientas de IA, el reto es encontrar un equilibrio operativo: aprovechar las ventajas evidentes en rapidez de análisis y capacidad de síntesis, sin convertir el despacho en un mero consumidor pasivo de servicios remotos opacos. Soluciones como HAL9000, con procesos definidos de cifrado, eliminación de archivos y ausencia de subcontratación a grandes plataformas generalistas, apuntan a una posible vía intermedia: utilizar modelos potentes, pero dentro de una arquitectura diseñada desde el principio para la confidencialidad y la trazabilidad. Siempre con una premisa que conviene repetir: la supervisión humana no es un adorno regulatorio, sino el núcleo mismo del uso responsable de la inteligencia artificial en Derecho.

Fuente de la noticia: “El Papa: desarmar la IA, apoyar las migraciones y la justicia social”, Diario de Avisos (acceso a través de https://diariodeavisos.elespanol.com).