La IA no va a sustituir a los abogados (todavía): qué está fallando y qué puede aportar una IA jurídica privada

El titular de Business Insider España —«La IA no va a sustituir a los abogados (todavía)»— resume bastante bien el estado actual de la tecnología en los despachos. Buena parte del entusiasmo en torno a la IA generativa se ha construido sobre demostraciones brillantes, pero alejadas del trabajo jurídico cotidiano. Cuando el modelo sale del laboratorio y se enfrenta a un expediente real, con documentos extensos, matices procesales y un marco normativo cambiante, emergen con claridad sus límites: errores de concepto, normas mal citadas, doctrina inventada o confusión entre lo que alegan las partes y lo que realmente resuelve el tribunal.

La propia prensa económica lleva meses documentando estos problemas: desde las advertencias de grandes tecnológicas sobre los riesgos de depender ciegamente de la IA, hasta las reservas de supervisores como la CNMV ante las «alucinaciones» de los modelos aplicados a inversión. En Derecho, el listón es incluso más exigente. No basta con respuestas “plausibles”: hace falta distinguir con precisión hechos, antecedentes, alegaciones, fundamentos y fallo; respetar el tenor literal de las normas; y, sobre todo, poder verificar de dónde salen las afirmaciones que la herramienta está presentando al profesional.

Detrás de muchos de estos fallos hay una característica estructural: la mayoría de herramientas jurídicas se limitan a colocar un modelo generalista bajo un envoltorio “legaltech”, confiando en que unas buenas instrucciones (prompting) lo conviertan en algo parecido a un abogado. El propio planteamiento de HAL9000.Legal parte de una crítica a este enfoque: un modelo de propósito general está pensado para hablar de casi cualquier tema, pero no para soportar, con prudencia y rigor, el trabajo de análisis y redacción en expedientes reales. Ajustar únicamente las instrucciones de cada consulta no equivale a un post‑entrenamiento interno orientado a Derecho.

HAL9000.Legal adopta una estrategia distinta. Parte de un modelo base de alto nivel, pero incorpora un post‑entrenamiento interno propio específicamente orientado al razonamiento jurídico. Ese ajuste adicional busca, entre otras cosas, que el sistema aprenda a no inventar lo que no consta en el texto, a separar los distintos planos de una resolución (hechos, alegaciones, fundamentos y fallo) y a reconocer mejor sus propios límites, respondiendo con mayor prudencia cuando la información es insuficiente o ambigua. No se trata solo de cambiar el tono del asistente, sino de modificar su comportamiento de fondo para acercarlo al trabajo profesional real.

Otro de los elementos que la noticia de Business Insider deja entrever —aunque no lo formule en estos términos— es la importancia de la trazabilidad. Los problemas de las IAs generalistas no se reducen a que puedan equivocarse: también a que, a menudo, no es transparente de dónde sale exactamente lo que dicen. HAL9000.Legal intenta abordar esa opacidad con una arquitectura centrada en fuentes revisables y en la posibilidad de reconstruir el camino que conduce a cada respuesta. La interfaz ofrece citas verificables, un mapa de fuentes y un índice de entidades, de modo que el abogado puede seguir el fundamento jurídico, localizar a los protagonistas del expediente y contrastar la información antes de integrarla en su trabajo.

Esta trazabilidad no se ha dejado en el plano de las promesas. HAL9000.Legal ha sido sometido a un benchmark extremo a extremo (E2E) que mide no solo el comportamiento del modelo, sino lo que efectivamente ve el abogado en la interfaz. En una muestra de 120 consultas, con distribución por materias (civil, penal, social y administrativo), el sistema mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes verificadas desde el frontend real. El propio informe reconoce que esto no demuestra por sí solo un soporte semántico perfecto, pero sí aporta una señal relevante: ninguna afirmación llega al profesional sin una fuente visible y accesible que pueda revisar.

La pieza de Business Insider también se enmarca en un contexto de preocupación por la privacidad y por la gobernanza del dato. Muchos despachos y asesorías se han mostrado reticentes a volcar expedientes reales en plataformas generalistas cuya infraestructura, términos de tratamiento de datos o política de reutilización para entrenamiento no siempre son claros. Aquí el enfoque de HAL9000.Legal es deliberadamente conservador: se presenta como una IA jurídica privada, con infraestructura propia en España, sin APIs externas y sin cesión operativa de las consultas a plataformas generalistas. El objetivo es reducir la exposición del dato y la dependencia de terceros en asuntos sensibles.

Esa orientación se refuerza en los escenarios en los que HAL9000 se despliega directamente en el entorno del cliente. La auditoría de privacidad publicada por AbogaTIC describe una arquitectura donde la interfaz web local gestiona adjuntos y sesiones; OCR, embeddings, búsqueda y transcripción se ejecutan dentro del entorno privado; y el volumen de uploads está cifrado en reposo mediante LUKS. Los archivos se eliminan físicamente tras el proceso de indexación, existen mecanismos de purga por identificador y no se registra contenido sensible (prompts, documentos o transcripciones) en los logs, que se limitan a eventos técnicos mínimos.

En ese escenario de ejecución local, la auditoría subraya que HAL9000 utiliza modelos open‑source servidos en la propia infraestructura del cliente y que no existe canal de envío a terceros ni uso de los datos para entrenamiento externo. El motor de inferencia se ha configurado sin registro de prompts ni respuestas, y la transcripción de vídeo o el OCR de documentos escaneados se realizan en contenedores locales, con eliminación de los archivos temporales al terminar. La combinación de minimización, cifrado en reposo y control de la retención busca responder a una pregunta que cada vez más despachos formulan de forma explícita: ¿dónde están exactamente mis datos cuando uso IA?

Junto a la privacidad, la noticia de Business Insider remite indirectamente a otra preocupación central: la responsabilidad. ¿Quién responde cuando una IA se equivoca en una cita o sugiere una estrategia procesal errónea? Aquí el marco jurídico tradicional no desaparece: el abogado sigue siendo quien firma escritos, asesora a clientes y comparece ante los tribunales. Los términos de servicio de HAL9000.Legal son claros al respecto: la plataforma es una herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico. Abogacía Tecnológica no garantiza la exactitud, actualidad o adecuación de las respuestas a casos concretos, y el usuario debe verificar y validar los resultados antes de utilizarlos profesionalmente.

Esta forma de encajar la IA en el despacho tiene una consecuencia práctica importante: desplaza el foco desde la ficción de “la máquina que sustituye al abogado” hacia la realidad más útil de “la máquina que ayuda al abogado a hacer mejor su trabajo”. HAL9000.Legal está pensada para trabajar con asuntos completos —no solo preguntas sueltas—, analizando documentación, encontrando fundamento útil, contrastando citas y preparando borradores con continuidad de contexto. La plataforma incorpora herramientas como anonimización de documentos, transcripción de vídeo, un área de consulta con indicaciones y un grafo de relaciones, todo ello orientado a convertir expedientes complejos en trabajo jurídico utilizable, siempre bajo control y revisión humana.

En definitiva, la tesis que se desprende de la cobertura mediática —y que comparte la práctica profesional diaria— no es que la IA sea irrelevante para el Derecho, sino que su valor depende de cómo se diseñe y se integre. En un extremo están las soluciones generalistas, opacas y difíciles de auditar, que alimentan titulares sobre errores espectaculares y alucinaciones. En el otro, modelos especializados como HAL9000.Legal, que asumen desde el principio que no van a sustituir al abogado, sino a darle mejores herramientas: más capacidad de filtrado y análisis, más trazabilidad documental y un marco de privacidad compatible con la sensibilidad de los expedientes. El tiempo dirá hasta dónde llega esta segunda vía, pero a día de hoy es la que mejor encaja con el mandato profesional de prudencia, secreto y responsabilidad.

La noticia completa sobre las limitaciones actuales de la inteligencia artificial en el ámbito jurídico puede consultarse en Business Insider España: «La IA no va a sustituir a los abogados (todavía): las razones por las que sigue fallando en derecho», disponible en https://www.businessinsider.es.