Cuando la IA ya está “a los dos lados de los estrados”: usos admisibles, riesgos y por qué importa la arquitectura del sistema

La advertencia lanzada en DataFORUM Justicia por el presidente de Ineco —la IA ya actúa “a los dos lados de los estrados”— no es tanto una noticia tecnológica como una constatación de contexto jurídico. La cuestión ya no es si la inteligencia artificial llegará a los despachos o a los órganos judiciales, sino en qué condiciones se integra en su trabajo cotidiano. El riesgo, si no se afinan bien los matices, es tratar por igual a sistemas generalistas sin control sobre los datos y a herramientas diseñadas específicamente para operar en entornos jurídicos sensibles.

Desde la óptica del Derecho, la primera línea divisoria pasa por la finalidad de uso. En el caso de HAL9000, los propios Términos y Condiciones acotan con claridad esa finalidad: la plataforma se concibe como un sistema de asistencia profesional para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia y elaboración y revisión de documentación jurídica, siempre bajo el criterio y la supervisión del profesional. No se presenta como sustituto del juicio del abogado ni, con mayor razón, como herramienta para que una autoridad judicial adopte resoluciones, valore la prueba o aplique el Derecho a un caso concreto. Esta delimitación no es un matiz comercial, sino un elemento jurídico central: la finalidad prevista condiciona qué usos son admisibles y cuáles quedan, expresamente, fuera del marco legítimo del sistema.

El propio texto contractual va un paso más allá al tratar el uso por jueces, magistrados u otros profesionales de la Administración de Justicia. No se excluye de forma absoluta, pero se restringe a un conjunto tasado de tareas: consulta y recuperación de información, búsqueda documental, anonimizaciones, organización de la información y otras actividades auxiliares o preparatorias que no analicen ni evalúen pruebas, no interpreten ni apliquen el Derecho a un conjunto concreto de hechos, no formulen recomendaciones sobre el caso y no influyan materialmente en el resultado de la decisión. Esta cautela enlaza de forma directa con las preocupaciones que se escuchan en foros como DataFORUM Justicia: se admite IA en el ecosistema judicial, pero bajo garantías de que no asume, ni de facto ni de iure, funciones propias de la jurisdicción.

El segundo eje imprescindible es quién controla los datos y dónde se procesan. HAL9000 se ha planteado desde su diseño como una IA jurídica privada para despachos y profesionales, con infraestructura propia en España y sin cesión operativa de consultas ni documentos a plataformas generalistas. Esa premisa se desarrolla en la auditoría interna de privacidad: el sistema está pensado para operar en un entorno privado del cliente, con procesamiento local de documentos, cifrado en reposo del volumen de subida, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. No se registran contenidos sensibles en los logs y la retención de datos se gobierna mediante políticas de caducidad y procedimientos verificables de borrado. Este tipo de arquitectura no elimina por sí sola todo riesgo, pero sí ofrece al profesional una capacidad de control sobre el ciclo de vida de la información que resulta difícil de replicar cuando la lógica de producto se apoya en APIs externas.

El tercer componente, menos visible pero igual de relevante en clave jurídica, es la trazabilidad. De poco sirve un modelo potente si el abogado —o el propio órgano judicial, si llegara a usarlo en tareas auxiliares— no puede reconstruir de dónde sale la respuesta. HAL9000 ha sido evaluado, en un escenario de uso real, sobre su trazabilidad verificable: en una muestra de 120 consultas, la interfaz mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes verificadas. Esto no convierte el sistema en infalible ni garantiza soporte semántico perfecto, pero sí introduce una asimetría importante respecto a la IA genérica: cada afirmación relevante llega acompañada de enlaces a documentos revisables, reduciendo opacidad y facilitando que el profesional contraste, matice o incluso descarte la sugerencia del sistema.

En paralelo, la propia configuración del modelo no replica el patrón típico del “asistente generalista maquillado para Derecho”. HAL9000 parte de un modelo base de alto nivel, pero incorpora post‑entrenamiento interno específicamente orientado al razonamiento jurídico y a la separación entre hechos, alegaciones, fundamentos y fallo. Se le entrena para no inventar lo que no consta en el texto y para reconocer sus propios límites, respondiendo con mayor prudencia cuando el contexto es parcial o ambiguo. Esta aproximación no elimina la necesidad de supervisión —el servicio recuerda expresamente que no constituye asesoramiento jurídico autónomo—, pero sí se alinea con lo que cabría exigir a una herramienta que opera “cerca” de la jurisdicción: menos improvisación y más fidelidad al material documental.

Finalmente, hay un elemento operativo que conecta de forma directa con los escenarios descritos en eventos como DataFORUM Justicia: el trabajo con expedientes reales. HAL9000 está pensado para hilos de trabajo que abarcan asuntos completos —documentos, estrategia, revisión y borradores en un mismo contexto—, incluyendo funcionalidades como anonimizaciones, transcripción de vídeo con contenedores locales o tratamiento de PDFs mediante OCR con eliminación de archivos temporales tras el procesamiento. Todo ello bajo la premisa recurrente de la plataforma: el profesional conserva el control sobre la decisión, la sistemática de trabajo se aproxima a la del despacho o del órgano que la utiliza y la IA se mantiene en el plano de apoyo, no en el de sustitución.

En un entorno en el que la IA pasa, como ha señalado Ineco, a ocupar espacio “a los dos lados de los estrados”, el debate jurídico ya no puede quedarse en la foto fija de la presencia o ausencia de tecnología. Lo determinante es el diseño institucional y técnico de cada sistema: si admite auditoría, si delimita su finalidad, si respeta la privacidad y la localización de los datos y si proporciona al profesional del Derecho herramientas reales de trazabilidad y control. Una IA jurídica privada, con infraestructura propia en España, sin subcontratación a modelos generalistas y con un uso explícitamente subordinado al criterio humano, no elimina el debate, pero sí lo desplaza hacia un terreno más compatible con los principios de tutela judicial efectiva y con las exigencias de confianza en la Administración de Justicia.

Fuente original de la noticia: Ineco, “El presidente de Ineco advierte en DataFORUM Justicia de que la IA ya actúa ‘a los dos lados de los estrados’”, disponible en el sitio web corporativo de Ineco en https://www.ineco.com.