Desarmar la IA: del discurso del Papa a la práctica jurídica diaria

Cuando un líder religioso de alcance global pone el foco en la necesidad de “desarmar la IA” y vincularla con justicia social y migraciones, el impacto trasciende lo doctrinal y entra de lleno en el terreno jurídico y regulatorio. En Europa ya convivimos con el Reglamento de IA, la normativa de protección de datos y un creciente debate sobre sesgos, vigilancia y poder de las grandes plataformas. El mensaje, más allá de la retórica, es claro: el diseño y el despliegue de sistemas de IA no son neutros. Tienen consecuencias sobre colectivos vulnerables —entre ellos las personas migrantes— y sobre derechos fundamentales como la privacidad, la no discriminación o el acceso a la justicia.

En este contexto, la abogacía no puede limitarse a ser usuaria pasiva de herramientas tecnológicas. La forma en que integramos IA en despachos, asesorías y departamentos jurídicos traduce en la práctica esos grandes principios éticos. Una cosa es hablar de justicia social y otra muy distinta es trabajar diariamente con modelos alojados en infraestructuras opacas, entrenados con datos que desconocemos y que, además, pueden terminar realimentando sesgos o debilitando el secreto profesional. El riesgo no es solo técnico: también es de gobernanza. ¿Quién puede auditar qué se hace con la información de nuestros clientes? ¿Quién decide cómo se actualiza el modelo o qué registros se conservan? De ahí que el llamamiento a “desarmar” la IA pueda entenderse también como una invitación a reducir dependencias y a recuperar control.

Frente al paradigma de la IA genérica en la nube, HAL9000.Legal plantea un modelo distinto, pensado específicamente para profesionales del Derecho. Según la documentación pública de Abogacía Tecnológica, se trata de una IA jurídica privada que no envía los datos del despacho a terceros y que se ejecuta en servidores propios en España o en el propio despacho. No se subcontratan APIs de OpenAI, Google u otros grandes proveedores para el procesamiento de preguntas y respuestas, y la arquitectura se ha diseñado para que la infraestructura, los modelos y los flujos estén bajo control del propio proveedor o del cliente. Desde una perspectiva de cumplimiento y deontología, esto tiene una consecuencia directa: el flujo de información se acota y resulta más trazable, lo que facilita justificar internamente cómo se protege la confidencialidad.

La documentación de HAL9000.Legal insiste también en que no se trata de “otro modelo generalista con un simple prompt jurídico”, sino de una tecnología propia con postentrenamiento interno orientado al razonamiento jurídico. El objetivo es que el sistema se comporte de forma más prudente, con más fidelidad al texto y menos errores críticos: separar hechos, alegaciones, fundamentos y fallo, y reconocer mejor sus propios límites. Esto no elimina por sí mismo todos los riesgos de la IA —el propio proveedor advierte en sus términos de la posibilidad de errores y obliga al usuario a verificar y validar los resultados—, pero sí apunta a un enfoque en el que el diseño técnico se alinea con las exigencias profesionales: menos improvisación, más estructura y más responsabilidad compartida entre herramienta y jurista.

En materia de privacidad y control del dato, el informe interno de auditoría de HAL9000 ofrece algunos elementos relevantes para el debate. Describe una arquitectura pensada para operar en un entorno privado del cliente, con procesamiento local de documentos jurídicos, cifrado en reposo del volumen de archivos adjuntos, eliminación física una vez indexados y mecanismos de purga por identificador. También se aclara que los modelos utilizados son open‑source servidos en la propia infraestructura, sin canales de envío a terceros ni uso de los datos para entrenamiento externo, y que el motor de inferencia se ha configurado sin registro de prompts y respuestas en los logs. De nuevo, no se trata de garantías absolutas —que difícilmente existen en tecnología—, pero sí de decisiones de diseño coherentes con la lógica del secreto profesional: minimizar retención, reducir superficie de exposición y ofrecer trazabilidad sobre qué hay, dónde y durante cuánto tiempo.

Todo ello se encuadra en un marco jurídico claro: HAL9000.Legal se dirige a profesionales del ámbito jurídico y se define expresamente como herramienta de apoyo basada en IA que no constituye asesoramiento jurídico ni sustituye el criterio profesional. Las condiciones del servicio subrayan que es el usuario quien asume la responsabilidad por el uso de los resultados y su adecuación al caso concreto. Esta advertencia enlaza con la idea de “desarmar” la IA en otro sentido: impedir que se presente como una autoridad autónoma o infalible. La supervisión humana no es solo un requisito ético; es una obligación profesional. Integrar sistemas como HAL9000 en la práctica del despacho significa, en última instancia, articular un equilibrio entre automatización y control humano, eficiencia y garantías, innovación y respeto a los límites de nuestra función. Quizá esa sea una de las mejores respuestas prácticas al debate que abre el discurso del Papa: menos misticismo tecnológico y más arquitectura responsable.

Puedes consultar la noticia original en elDiario.es con el título completo «El Papa: desarmar la IA, apoyar las migraciones y la justicia social» en la siguiente dirección: https://www.eldiario.es (sección de actualidad, fecha RSS: 7 de junio de 2026).