Gobernanza ética de la IA: de los principios a la práctica jurídica cotidiana

La gobernanza ética de la inteligencia artificial, tal y como la plantea Cecilia Danesi en foros como el stand de CAF, suele describirse en términos de principios: transparencia, responsabilidad, no discriminación, respeto a los derechos fundamentales, etc. Sin embargo, en el sector jurídico, esos principios solo adquieren sentido cuando se traducen en decisiones muy concretas sobre cómo se diseña, despliega y usa la tecnología en la práctica forense, en el asesoramiento corporativo o en la función pública. La pregunta clave ya no es solo qué principios deben guiar la IA, sino cómo se reflejan esos principios en la arquitectura técnica y en las obligaciones profesionales de quienes la utilizan.

En el caso de la abogacía y de los servicios jurídicos, esta traducción práctica de la gobernanza ética se manifiesta, en primer lugar, en la gestión del dato. La confidencialidad, el secreto profesional y el cumplimiento normativo (en especial, en materia de protección de datos) imponen límites claros al uso de servicios en la nube o de modelos generalistas alojados en infraestructuras que el despacho no controla. La propia experiencia de los despachos con proveedores de tecnología muestra que un mismo principio ético —por ejemplo, preservar la confidencialidad— puede llevar a decisiones muy distintas: desde aceptar modelos remotos con cláusulas contractuales reforzadas, hasta optar por soluciones que se ejecutan íntegramente en entornos controlados por el propio despacho.

HAL9000.Legal, descrito por Abogacía Tecnológica, S.L. como una IA jurídica privada, es un ejemplo de este segundo enfoque. De la documentación pública disponible se desprende que el sistema se apoya en servidores propios en España o en servidores ubicados en el despacho, sin uso de APIs externas ni subcontratación con proveedores de IA genérica como OpenAI, Google u otros. La arquitectura se orienta a que el procesamiento de documentos jurídicos y consultas se realice en un entorno bajo control del cliente, con cifrado en reposo del volumen de archivos subidos, eliminación física de los documentos una vez que se han indexado y mecanismos de purga por identificador. Este tipo de decisiones técnicas encajan bien con uno de los ejes de la gobernanza ética: reducir la exposición innecesaria de datos sensibles.

La auditoría interna de privacidad publicada por AbogaTIC añade detalles relevantes sobre esa arquitectura: interfaz web local, secretos y endpoints internos fuera del navegador, OCR, embeddings, búsqueda y transcripción dentro del entorno privado, persistencia controlada en bases locales y una política de logs que evita registrar contenidos sensibles (prompts, documentos o transcripciones), limitándose a eventos técnicos mínimos. Además, se indica que HAL9000 utiliza modelos open‑source servidos con un motor de inferencia configurado sin registro de prompts y respuestas. Todo ello apunta a un modelo de gobernanza en el que la trazabilidad y el control del dato no se dejan solo a cláusulas contractuales, sino que se incorporan directamente al diseño del sistema.

Otro pilar central de la gobernanza ética es el papel del profesional humano. Los propios términos de servicio de HAL9000.Legal subrayan de forma expresa que se trata de una herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico, y que el usuario es responsable del uso de los resultados y de su adecuación al caso concreto. Esta advertencia, unida al diseño de la herramienta para trabajar asuntos completos (analizar documentación, localizar fundamento útil, contrastar citas y preparar borradores), sitúa la supervisión humana en el centro: la IA propone, pero el abogado decide, valida y asume la responsabilidad.

En la misma línea, la documentación hace hincapié en que el modelo se ha ajustado para comportarse con mayor prudencia jurídica: se ha trabajado un post‑entrenamiento interno específico para razonamiento jurídico, separación entre hechos, alegaciones, fundamentos y fallo, y para reducir la generación de contenidos no sustentados en el texto disponible. Esta orientación a la prudencia y a la fidelidad al texto no elimina el riesgo de error —algo que la propia empresa reconoce al limitar contractualmente su responsabilidad y recordar la necesidad de verificación por parte del profesional—, pero sí refleja una forma de gobernanza en la que se intenta alinear el comportamiento de la IA con las exigencias del trabajo jurídico.

Desde la óptica de la gobernanza ética, la apuesta por una infraestructura propia y por la no utilización de los datos del cliente para entrenamientos externos tiene además una lectura clara en términos de poder y dependencia tecnológica. Al ejecutar los modelos en servidores propios o en el entorno del despacho, el control sobre los flujos de datos, las actualizaciones y las configuraciones críticas recae en quien presta o utiliza el servicio, y no en un tercero global que puede modificar unilateralmente condiciones o funcionalidades. Esta redistribución del control encaja con las preocupaciones que suelen plantearse en foros como el de CAF: cómo evitar asimetrías excesivas de información y de poder entre quienes diseñan la IA, quienes la comercializan y quienes la usan en contextos de alta sensibilidad.

Para los profesionales del Derecho, el mensaje que puede extraerse de la combinación entre el debate internacional sobre gobernanza ética y experiencias concretas como HAL9000.Legal es doble. Por un lado, se confirma que la reflexión ética y regulatoria no es una abstracción académica: afecta a decisiones prácticas sobre privacidad, infraestructura, diseño de modelos y flujos de trabajo. Por otro, se evidencia que la supervisión humana, el mantenimiento del juicio profesional y la verificación de los resultados no son un simple requisito formal, sino una condición esencial para que el uso de IA en el ámbito jurídico sea compatible con los estándares de diligencia y responsabilidad que la profesión exige.

La intervención de Cecilia Danesi en el stand de CAF sobre gobernanza ética de la IA puede consultarse en la página de CAF | Banco, que actúa como fuente original de la noticia y del contexto en el que se desarrolla este debate sobre principios, diseño técnico y práctica profesional: https://www.caf.com