De la primera ola de ChatGPT al trabajo jurídico trazable: una lectura del caso Sergio Maldonado

La entrevista de elDiario.es a Sergio Maldonado, abogado especializado en inteligencia artificial, retrata con bastante fidelidad lo que muchos despachos y órganos judiciales vivieron en 2023 y 2024: la irrupción súbita de ChatGPT como herramienta ubicua también en el ámbito jurídico. Maldonado explica que, en esa «primera ola», abogados y jueces recurrieron de forma espontánea a la IA generativa para resolver dudas, esbozar escritos o explorar argumentos. La experiencia inicial fue tan llamativa como desigual: las respuestas eran fluidas y convincentes, pero convivían con lo que ya se ha normalizado llamar «alucinaciones» del modelo, es decir, informaciones inexactas o directamente inventadas que se presentaban con la misma seguridad que los datos correctos.

Ese contraste ha funcionado, en la práctica, como un experimento acelerado de adopción tecnológica. El sector jurídico ha constatado que la IA generalista puede ser útil para tareas de apoyo, pero también que su uso acrítico choca con exigencias básicas del oficio: rigor en la cita de fuentes, distinción nítida entre hechos y alegaciones, y, sobre todo, la imposibilidad de delegar en una máquina la responsabilidad profesional. En términos jurídicos, la lección es clara: sin trazabilidad y sin control humano cualificado, el uso de IA en un procedimiento real introduce riesgos de error difíciles de justificar ante un cliente, un tribunal o un colegio profesional.

En paralelo a este aprendizaje, se ha ido abriendo paso un enfoque más matizado: no se trata de abrazar o rechazar la IA en bloque, sino de exigirle condiciones adecuadas al contexto jurídico. Esto incluye, por un lado, una arquitectura técnica que proteja la confidencialidad de los expedientes y, por otro, un comportamiento del modelo compatible con la práctica profesional. La propia noticia apunta indirectamente a esta transición: frente al uso improvisado de herramientas pensadas para el público general, empiezan a consolidarse soluciones específicas para Derecho, con mayor control sobre el dato y menor tolerancia a la improvisación del modelo.

Es en este marco donde encaja HAL9000.Legal, la solución desarrollada por Abogacía Tecnológica. A diferencia de los grandes servicios comerciales de IA, que suelen ejecutarse en infraestructuras externas y reutilizar consultas con fines de entrenamiento, HAL9000.Legal se ejecuta en servidores propios ubicados en España, sin APIs externas y sin cesión operativa de las consultas a plataformas generalistas. La auditoría de privacidad publicada por AbogaTIC detalla una arquitectura orientada al control del dato: procesamiento local de documentos, cifrado en reposo, eliminación física de archivos una vez indexados y ausencia de envío de información a terceros, incluyendo un motor de inferencia configurado sin registro de prompts o respuestas en logs de uso.

Más allá de la infraestructura, el diseño funcional de HAL9000.Legal intenta responder precisamente a los problemas que emergieron en esa «primera ola» que describe Maldonado. El sistema no se limita a un modelo generalista con un prompt jurídico, sino que incorpora postentrenamiento interno propio para alinear su comportamiento con el razonamiento jurídico: separación explícita entre hechos, alegaciones, fundamentos y fallo; entrenamiento para no inventar lo que no consta en el texto; y un énfasis en reconocer los propios límites y responder con prudencia. Esta filosofía se refleja también en la interfaz: la plataforma prioriza el trabajo con expedientes completos (documentos, estrategia, revisión y borradores en un mismo hilo), en lugar de responder a preguntas aisladas sin contexto suficiente.

Una de las principales lecciones de la etapa ChatGPT improvisado es que la respuesta verbalmente brillante pero huérfana de fuente es difícilmente aceptable en un entorno donde el «visto en Google» nunca ha bastado. En este punto, HAL9000.Legal incorpora mecanismos específicos de trazabilidad y verificación: la herramienta trabaja con fuentes revisables y ofrece citas verificables, mapas de fuentes e índices de entidades, de modo que el profesional puede seguir el fundamento jurídico de cada conclusión y localizar con rapidez jurisprudencia y protagonistas del expediente. El propio sistema ha sido sometido a un benchmark extremo a extremo (E2E) sobre su interfaz real, donde en una muestra de 120 consultas se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes desde la propia interfaz. Aunque los resultados no implican infalibilidad semántica, sí ofrecen una señal fuerte de robustez documental y de reducción de opacidad: ninguna afirmación llega al abogado sin una fuente visible y revisable.

Otro elemento que diferencia esta nueva generación de herramientas jurídicas es la forma en que asumen la relación entre IA y responsabilidad profesional. En los términos de servicio de HAL9000.Legal se establece expresamente que la plataforma es una herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico. Se explicita que Abogacía Tecnológica no garantiza la exactitud ni la adecuación de las respuestas al caso concreto y que el usuario debe verificar y validar los resultados antes de su uso profesional, asumiendo la responsabilidad por las decisiones que adopte. Esta cláusula se alinea con la recogida por la mayoría de colegios y reguladores: la IA puede asistir, pero la firma final y el juicio sobre la validez de la argumentación siguen siendo humanos.

La privacidad y el control de datos completan el cuadro. Según la auditoría interna disponible, HAL9000.Legal se ha diseñado para operar en un entorno privado del cliente, con interfaz web local, proxy de acceso controlado y persistencia limitada de información. No se registran contenidos sensibles (prompts, documentos o transcripciones) en los logs, y la retención de datos se gobierna por tiempos de vida (TTL) y mecanismos de purga verificables. Servicios complementarios como OCR o transcripción de vídeo funcionan también en contenedores locales, con eliminación de archivos temporales tras el procesamiento y sin copia permanente de los documentos escaneados. Esa aproximación contrasta con la lógica de muchos servicios masivos, que se alimentan precisamente de grandes volúmenes de datos y de historiales persistentes.

En definitiva, la frase de Sergio Maldonado sobre aquella primera ola de ChatGPT funciona hoy casi como un punto de partida histórico: el momento en que la abogacía comprobó que la IA no podía usarse en Derecho como si fuera un buscador conversacional más. A partir de ahí, el sector se está moviendo hacia modelos más exigentes en términos de trazabilidad, privacidad y control del dato, donde el valor no está solo en «usar IA», sino en poder hacerlo de manera compatible con el deber de diligencia, el secreto profesional y la responsabilidad frente al cliente y al tribunal. Soluciones como HAL9000.Legal ejemplifican esa transición hacia una IA jurídica privada, con servidores en España, sin subcontratación con plataformas genéricas y orientada al trabajo real de jueces, magistrados y abogados, siempre bajo supervisión humana. Para quien quiera profundizar en las reflexiones de Maldonado sobre esta evolución, la entrevista completa puede leerse en elDiario.es, en la edición de Quo, disponible en https://quo.eldiario.es.