Principios éticos de la IA pública y lecciones para la abogacía: del ‘tecnoderecho’ europeo a la práctica diaria en los despachos

La nota de La Administración al Día sobre «Los principios éticos en el uso de sistemas de IA por las Administraciones públicas» sitúa la digitalización –ya no tan nueva, pero sí cada vez más profunda– como uno de los retos centrales de nuestro tiempo. El mensaje de fondo es claro: limitarse a cumplir las garantías normativas vigentes no basta para proteger con rigor los derechos y libertades de la ciudadanía cuando se introducen sistemas de IA en la gestión pública. Hace falta, además, un conjunto de principios éticos específicos que orienten a las Administraciones en la selección de casos de uso, en el diseño de los sistemas y en la forma de supervisar sus decisiones. El trabajo reseñado propone precisamente dotar de relevancia jurídica complementaria a esos principios éticos, encuadrándolos en lo que denomina derecho europeo de la tecnología o tecnoderecho europeo, como marco de referencia para la gobernanza digital y, en particular, para el uso de la IA en el sector público.

Ese giro hacia principios éticos con vocación jurídica no es ajeno a la práctica diaria de la abogacía. Cuando un despacho integra IA en su flujo de trabajo, se enfrenta a preguntas muy similares a las que se plantean hoy las Administraciones: ¿qué margen de decisión se delega realmente en el sistema?, ¿cómo se garantiza la trazabilidad suficiente de lo que se ha hecho con un documento?, ¿de qué manera se preservan derechos fundamentales como la protección de datos y el secreto profesional? En el fondo, el incipiente derecho tecnológico europeo que menciona la noticia se traduce, en el ámbito profesional, en deberes de diligencia tecnológica: elegir herramientas compatibles con la normativa y con la ética de la profesión, entender sus límites y diseñar procedimientos internos que eviten una delegación acrítica del razonamiento jurídico en la máquina.

En materia de privacidad y confidencialidad, la noticia se enmarca en un contexto en el que los sistemas de IA suelen apoyarse en infraestructuras externas, a menudo fuera del control directo de quien los utiliza. Aquí es donde las decisiones arquitectónicas empiezan a tener un claro contenido ético y jurídico. En el caso de HAL9000.Legal, la documentación pública disponible muestra una apuesta deliberada por el control local del dato: la IA se ejecuta en servidores propios de Abogacía Tecnológica o en el propio despacho, sin uso de APIs externas para procesar los prompts o los documentos. El informe interno de auditoría de privacidad describe una arquitectura pensada para que el procesamiento de documentos, la búsqueda vectorial, el OCR y la transcripción se realicen dentro de un entorno privado, con cifrado en reposo del volumen de uploads, eliminación física de archivos una vez indexados y mecanismos de purga basados en identificadores internos. No se registran contenidos de las consultas en los logs, que se limitan a eventos técnicos mínimos. Todo ello apunta a un modelo en el que el flujo de información está acotado y trazado, reduciendo de forma significativa el riesgo de exposiciones no deseadas.

Más allá del tratamiento de datos, la noticia sobre principios éticos en la IA pública insiste en la necesidad de clarificar el papel de la tecnología respecto al de los decisores humanos. En el entorno de los despachos, esa misma distinción aparece en los propios términos de servicio de HAL9000.Legal, donde se establece de forma expresa que la herramienta no constituye asesoramiento jurídico ni sustituye el criterio profesional. Abogacía Tecnológica recuerda que los resultados son generados automáticamente, que, pese a las medidas técnicas y de control, no puede garantizarse su exactitud o adecuación al caso concreto y que corresponde al usuario verificar y validar las respuestas antes de incorporarlas a su práctica profesional. Es decir, se asume contractualmente que la supervisión humana no es un añadido opcional, sino la condición de uso responsable del sistema. Esta estructura encaja bien con la lógica del tecnoderecho europeo: la IA como apoyo, no como sustituto, y la responsabilidad última anclada siempre en la persona profesional o en la entidad pública.

La trazabilidad, otro de los ejes éticos habituales cuando se habla de IA en la Administración, también se traslada a la práctica privada. El informe de auditoría de HAL9000.Legal señala que los adjuntos y textos indexados se gestionan mediante identificadores internos que facilitan la auditoría y la purga, y que la persistencia se controla en bases locales (vectoriales y de archivos). Además, el motor de inferencia se configura sin registrar prompts ni respuestas, separando claramente los logs operativos mínimos de cualquier contenido sustantivo de los asuntos. Desde una perspectiva jurídica, estos elementos permiten a un despacho diseñar políticas internas más robustas sobre el ciclo de vida de la información procesada por la IA, lo que resulta difícil cuando el procesamiento se realiza íntegramente en nubes de terceros sin visibilidad real sobre su funcionamiento.

En conjunto, la noticia de La Administración al Día y la experiencia de herramientas como HAL9000.Legal apuntan en la misma dirección: los principios éticos de la IA no son una cuestión abstracta, sino un criterio práctico para tomar decisiones tecnológicas concretas. Para las Administraciones, se trata de articular un uso de la IA compatible con la protección reforzada de derechos y con los estándares emergentes del derecho tecnológico europeo. Para los despachos, de escoger soluciones que respeten el secreto profesional, operen en entornos controlados y asuman la supervisión humana como parte estructural del servicio. A medida que el tecnoderecho europeo se consolide, es previsible que estas convergencias entre lo público y lo privado acaben configurando, de facto, un estándar común de diligencia en el uso de IA jurídica. Quien quiera profundizar en la perspectiva pública de este debate puede consultar la pieza original «Los principios éticos en el uso de sistemas de IA por las Administraciones públicas: en busca de los principios del derecho tecnológico europeo», disponible en La Administración al Día (https://laadministracionaldia.inap.es).