¿Sustituir a abogados y jueces? Lo que no te cuenta el debate sobre la nueva IA de OpenAI

La pieza de ESdiario sitúa el foco en una novedad relevante: OpenAI habría presentado una herramienta que combina su tecnología de inteligencia artificial con un índice especializado para consultar legislación, jurisprudencia y documentación jurídica de Estados Unidos. Sobre el papel, esto permite a un abogado norteamericano plantear una cuestión jurídica y obtener, en segundos, referencias normativas y casos relacionados. El titular, sin embargo, va un paso más allá y formula la pregunta que preocupa a buena parte de la profesión: ¿estamos ante una IA que viene a ayudar o ante una que aspira a sustituir a abogados y jueces?

Formulada así, la dicotomía es algo tramposa. Una IA capaz de navegar por grandes repositorios jurídicos y proponer borradores puede ser útil siempre que se entienda como una herramienta subordinada al criterio humano. El problema aparece cuando el discurso comercial sugiere —o deja entrever— que el sistema podría llegar a prescindir de esa supervisión o automatizar, de facto, funciones que en Europa están sometidas a garantías reforzadas: motivación de las resoluciones, derecho de defensa, control jurisdiccional, publicidad de las fuentes, entre otras. En ese contexto, las soluciones “caja negra”, servidas desde infraestructuras ajenas, con entrenamientos poco transparentes y sin límites claros de uso, generan una tensión evidente con los estándares jurídicos y deontológicos europeos.

El debate que refleja ESdiario contrasta con el enfoque que algunos proyectos en España han adoptado desde el inicio. HAL9000, la IA jurídica privada de Abogacía Tecnológica, parte de una premisa distinta: no vender “otro ChatGPT con indicaciones”, sino una tecnología jurídica propia, con post-entrenamiento interno orientado al razonamiento jurídico y con un perímetro funcional claramente acotado. Según sus términos de servicio, HAL9000 está destinada a la investigación jurídica, la recuperación y análisis documental, y la elaboración y revisión de documentación, siempre como herramienta de apoyo bajo criterio y supervisión del profesional. No se presenta como sistema de decisión automática, ni como sustituto del abogado, ni como motor de adopción de resoluciones judiciales.

Esta diferencia de enfoque se concreta, en primer lugar, en la infraestructura. HAL9000 se sirve en entornos propios en España, con infraestructura privada o dedicada, sin cesión operativa de las consultas a plataformas generalistas. La auditoría interna de privacidad publicada por AbogaTIC detalla una arquitectura en la que los adjuntos se procesan en un entorno controlado del cliente, con cifrado en reposo, eliminación física de archivos tras su indexación y mecanismos de purga por identificador. Los modelos de IA utilizados son open-source servidos en infraestructura local, y se ejecutan íntegramente en el entorno del cliente, sin canal de envío a terceros ni uso de los datos para entrenamiento externo. Además, el motor de inferencia se ha configurado sin registro de prompts o respuestas, limitando los logs a eventos técnicos mínimos.

En segundo lugar, HAL9000 introduce límites explícitos al uso por parte de la Administración de Justicia. Sus términos establecen que el sistema no está destinado a ser utilizado por autoridades judiciales para adoptar resoluciones, valorar de forma autónoma la prueba, investigar o interpretar los hechos o el Derecho y aplicarlo a un conjunto concreto de hechos en el ejercicio de la función jurisdiccional. Se permite, eso sí, un uso estrictamente auxiliar por jueces, magistrados u otros profesionales de la Justicia: mera consulta y recuperación de información, búsqueda documental, anonimizaciones, organización de información y tareas preparatorias que ni evalúen pruebas ni formulen recomendaciones ni influyan materialmente en el resultado de una decisión. El propio proveedor advierte que cualquier uso que exceda de estos límites queda fuera de la finalidad prevista del sistema.

Un tercer elemento diferenciador es la trazabilidad. Mientras muchas herramientas basadas en grandes modelos generalistas corren el riesgo de “inventar” doctrina o mezclar alegaciones, antecedentes y fallo, HAL9000 se ha ajustado para no improvisar lo que no consta en el texto y para separar hechos, alegaciones, fundamentos y fallo. El sistema trabaja con fuentes revisables, ofrece un mapa de fuentes y un índice de entidades, y ha sido sometido a un benchmark E2E que no mide solo la calidad abstracta del modelo, sino la interfaz real que ve el abogado: en una muestra de 120 consultas, se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes verificadas desde la propia interfaz. Esto no garantiza por sí solo una interpretación perfecta del Derecho, pero sí aporta una señal de robustez documental y reduce la opacidad típica de las IAs generalistas.

Todo ello tiene consecuencias prácticas para el despacho: trabajar con una IA que opera en servidores propios en España, que no envía las consultas a APIs externas y que ha sido diseñada para minimizar la retención de datos y evitar registros de contenido sensible en logs, facilita el cumplimiento de obligaciones de confidencialidad, de protección de datos y de secreto profesional. A la vez, disponer de trazabilidad verificable y de fuentes abiertas desde la interfaz real permite que el abogado mantenga el control sobre el razonamiento jurídico y revise, contraste y corrija con mayor facilidad los resultados. En un momento en que titulares como el de ESdiario plantean la alternativa entre “ayudar” o “sustituir”, conviene recordar que la clave no está en la potencia aislada del modelo, sino en el marco técnico-jurídico que condiciona su uso: privacidad, soberanía del dato, límites funcionales claros y, sobre todo, supervisión humana efectiva.

La noticia de ESdiario sobre la nueva IA jurídica de OpenAI puede consultarse en su fuente original: “Ya hay debate: OpenAI presenta su nueva IA, ¿para ayudar o sustituir a abogados y jueces?”, disponible en https://www.esdiario.com.