IA y ODS 16: digitalizar la justicia sin perder la humanidad… ni la privacidad

El artículo de GNDiario sobre “IA y ODS 16: el reto de digitalizar la justicia sin perder la humanidad” se inserta en un debate cada vez más presente en la abogacía y en la Administración de Justicia: cómo aprovechar la Inteligencia Artificial para hacer los sistemas judiciales más ágiles y accesibles, en línea con el Objetivo de Desarrollo Sostenible 16, sin sacrificar garantías, imparcialidad ni cercanía con las personas. Digitalizar por digitalizar no basta; lo relevante es qué tipo de herramientas se introducen, con qué límites y bajo qué grado de control humano.

Desde una perspectiva jurídico‑técnica, el ODS 16 obliga a ir más allá de los titulares. La IA puede ayudar a reducir retrasos, mejorar la gestión documental o facilitar el acceso a información jurídica, pero también puede introducir nuevas asimetrías si se confía en modelos generalistas poco adaptados al razonamiento jurídico, alojados fuera de la UE o con políticas opacas de tratamiento de datos. Para despachos, asesorías jurídicas y, con mayores cautelas, para quienes trabajan en la Administración de Justicia, la cuestión no es solo si usan IA, sino con qué nivel de privacidad, de control sobre el dato y de trazabilidad de las respuestas.

HAL9000 se enmarca precisamente en esa preocupación por la privacidad y el control. La plataforma se ofrece como IA jurídica privada para profesionales del Derecho, con infraestructura propia en España y sin cesión operativa de las consultas a plataformas generalistas. Esto significa que las interacciones del profesional con el sistema no se envían a proveedores externos de IA para ser procesadas o reutilizadas; el objetivo es reducir la dependencia de terceros y la exposición del dato, algo especialmente relevante cuando se manejan expedientes con información sensible o reservada.

Otro elemento clave que apunta la Agenda 2030 cuando habla de instituciones sólidas es la transparencia. En el ámbito de la IA jurídica, eso se traduce en trazabilidad: poder seguir el rastro entre lo que la máquina responde y las fuentes documentales que lo sustentan. HAL9000 ha sido evaluado en un escenario de uso real (no solo a nivel de API) y, en una muestra de 120 consultas, mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes desde la propia interfaz. No es una garantía absoluta de corrección jurídica, pero sí una señal relevante: el abogado puede verificar de inmediato qué norma, sentencia o documento respalda cada afirmación, reduciendo la opacidad típica de los sistemas de caja negra.

La noticia de GNDiario también subraya la importancia de no perder la humanidad en la justicia. En este punto resulta esencial distinguir entre IA de apoyo y IA de decisión. Los términos de servicio de HAL9000 son claros: se trata de una herramienta de asistencia profesional para investigación jurídica, recuperación y análisis documental, elaboración y revisión de escritos, bajo el criterio y supervisión del usuario. No está destinada a sustituir la valoración profesional ni a ser utilizada por autoridades judiciales para adoptar resoluciones, valorar de forma autónoma la prueba o aplicar el Derecho a hechos concretos en el ejercicio de la función jurisdiccional. Incluso en el eventual uso por jueces o magistrados, su finalidad se limita a tareas auxiliares como búsqueda de información, anonimización u organización de documentación, siempre sin influir materialmente en el resultado de una decisión.

Esa combinación de límites de uso, infraestructura controlada y fuentes revisables es lo que puede hacer que la IA sume al ODS 16 en lugar de tensionarlo. En la práctica, permite a un abogado o a un órgano jurídico trabajar con expedientes reales —no solo con preguntas sueltas—, anonimizar documentos, transcribir audios o vídeos y navegar grandes volúmenes de información con ayuda de un motor especializado, pero manteniendo la decisión en manos humanas. El modelo subyacente se ha sometido a un post‑entrenamiento interno orientado al razonamiento jurídico y a la prudencia (por ejemplo, a no inventar lo que no consta en el texto y a separar hechos, alegaciones, fundamentos y fallo), lo que reduce el riesgo de errores críticos típicos de las IA generalistas que se maquillan para el sector legal con simples instrucciones.

El otro pilar del ODS 16 es la confianza institucional, y aquí la privacidad vuelve a ser determinante. El informe interno de auditoría de privacidad de HAL9000 describe una arquitectura pensada para operar en un entorno privado del cliente: interfaz web local para gestionar adjuntos y sesiones, servicios de OCR y transcripción que se ejecutan en contenedores locales, cifrado en reposo del volumen de subidas mediante LUKS, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. No se registran contenidos sensibles en los logs y los modelos open‑source se sirven en la propia infraestructura del cliente, sin canal de envío de datos a terceros ni uso para entrenamiento externo. Este tipo de configuración es coherente con un escenario en el que la justicia y la abogacía quieren digitalizarse, pero sin renunciar al control sobre la información que manejan.

Todo ello no convierte a la IA en un nuevo “juez automático”, ni pretende hacerlo. Más bien perfila un rol prudente para la tecnología: ayudar a filtrar jurisprudencia relevante, ordenar los hechos de un expediente, identificar lagunas argumentales o proponer borradores que el profesional revisará y adaptará al caso concreto. Esa capa de asistencia, utilizada con criterio y dentro de los límites de finalidad previstos, puede contribuir a sistemas judiciales más eficaces y accesibles, sin desdibujar la responsabilidad última de quien decide. Es, en el fondo, el mensaje que subyace en la pieza de GNDiario: la digitalización de la justicia debe hacerse con humanidad, y eso incluye respeto por las personas afectadas, por sus datos y por el papel insustituible del juicio humano.

Para profundizar en la noticia original sobre IA, Agenda 2030 y ODS 16, puede consultarse directamente la pieza de GNDiario “IA y ODS 16: el reto de digitalizar la justicia sin perder la humanidad”, disponible en su web: https://gndiario.com