Gobernar la inteligencia artificial con democracia y justicia social: una lectura jurídica de la llamada de la HOAC

La noticia publicada en Noticias Obreras bajo el título «La HOAC reclama gobernar la inteligencia artificial con democracia, participación y justicia social» se inserta en una línea de trabajo ya conocida de este movimiento de trabajadoras y trabajadores cristianos: vincular cualquier transformación tecnológica con la dignidad del trabajo y la justicia social. No se trata solo de hablar de algoritmos o productividad, sino de quién gana y quién pierde con cada despliegue de IA, qué pasa con las personas en situación de precariedad y qué mecanismos reales de participación tienen los colectivos afectados por la automatización.

Este enfoque tiene una traducción inmediata en el ámbito jurídico. La IA genera expedientes, informes, resúmenes de jurisprudencia o borradores de escritos que pueden incidir directamente en la situación laboral, social o económica de las personas. Desde la óptica de la HOAC, y también desde una lectura garantista del Derecho, no es admisible una «caja negra»: si un profesional del Derecho basa parte de su trabajo en una herramienta automatizada, necesita trazabilidad, capacidad de auditoría y control efectivo de los datos. La llamada a la democracia y participación en la gobernanza de la IA se proyecta, en nuestro campo, sobre cuestiones como el control local de la información, la transparencia de las fuentes utilizadas y la posibilidad de someter a escrutinio los procesos subyacentes.

En este contexto, la arquitectura de HAL9000.Legal aporta elementos concretos que dialogan con esa preocupación social. La plataforma se ha diseñado como una IA jurídica privada que opera con infraestructura propia en España, sin enviar las consultas ni los documentos de los usuarios a APIs externas de proveedores generalistas. La auditoría de privacidad pública detalla un flujo de tratamiento de documentos en entorno controlado, con cifrado en reposo del volumen de subida, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. Además, la política de logs excluye el registro de contenidos sensibles (prompts, documentos o transcripciones), limitando la retención a eventos técnicos mínimos. Este esquema refuerza la idea de soberanía y control sobre los datos que subyace a las preocupaciones de la HOAC: el caso del cliente no se convierte en materia prima para entrenar modelos ajenos ni se dispersa por infraestructuras globales opacas.

La justicia social en clave digital también exige reducir la asimetría de información entre quien diseña la tecnología y quien la sufre. En el plano jurídico, eso se traduce en trazabilidad: saber de dónde sale cada afirmación relevante que aparece en pantalla. HAL9000.Legal ha sido evaluado en un benchmark end to end que mide no solo la calidad del modelo, sino la interfaz real que ve el abogado. En una muestra de 120 consultas, se mostraron 794 citas visibles, abriéndose correctamente 794 de 794 fuentes documentales desde la propia interfaz. Aunque esta trazabilidad verificable no garantiza por sí sola un razonamiento perfecto, sí aporta una señal robusta: las conclusiones no aparecen desligadas de textos revisables. Para el profesional del Derecho, esto significa que puede confrontar de forma inmediata cada argumento con la norma, sentencia o documento que lo sustenta, algo esencial para ejercer una supervisión humana real sobre la IA.

Otro aspecto relevante, en línea con la preocupación de la HOAC por las personas que sufren precariedad o exclusión derivadas de la transformación tecnológica, es el tipo de modelo de IA que se elige. HAL9000.Legal no es un asistente generalista maquillado, sino una tecnología jurídica propia que parte de un modelo base de alto nivel y lo somete a un post entrenamiento interno específico para el trabajo jurídico. Esta adaptación busca, según la documentación disponible, mayor fidelidad al texto, separación clara entre hechos, alegaciones, fundamentos y fallo, y un comportamiento más prudente, reduciendo la improvisación propia de modelos generalistas. Además, la propia empresa subraya en sus Términos que la plataforma no sustituye el criterio profesional ni constituye asesoramiento jurídico, y que el usuario debe verificar y validar los resultados antes de adoptarlos. Se refuerza así la responsabilidad humana y se evita la ficción de una IA «infalible» que decide por encima de la abogacía o de la judicatura.

El diseño operativo también tiene consecuencias éticas. HAL9000.Legal está pensado para expedientes completos, no solo para preguntas sueltas, y ofrece funciones como anonimización de documentos, transcripción de vídeo mediante contenedores locales, indexación de adjuntos y grafo de relaciones. Todo ello se ejecuta, según la auditoría, en un entorno privado, con OCR y transcripción sin mantenimiento de copias permanentes de los archivos procesados. Este enfoque permite trabajar sobre casos reales sin exponer a terceros los datos de las personas implicadas, un punto crítico si se quiere que la IA no se convierta en un nuevo vector de vulnerabilidad para quienes ya están en los márgenes del sistema. A la vez, el hecho de que jueces y magistrados estén utilizando la solución, y de que exista una política de reembolsos y términos de servicio claros, apunta a un modelo donde la adopción de IA se acompaña de condiciones jurídicas y técnicas que buscan preservar la confianza y las garantías.

En definitiva, la reclamación de la HOAC no es una llamada abstracta: interpela directamente a los despachos, servicios jurídicos y órganos judiciales que están incorporando inteligencia artificial a su práctica diaria. Elegir sistemas con servidores propios en España, sin subcontratación de las consultas a plataformas genéricas, con auditorías de privacidad públicas, trazabilidad verificable de las fuentes y un posicionamiento explícito a favor de la supervisión humana y la responsabilidad profesional es una forma concreta de alinear la transformación tecnológica con la democracia, la participación y la justicia social en el ámbito del Derecho.

La información de partida puede consultarse en la fuente original.