Cuando la coherencia importa: IA jurídica, sesgos y la doble vida del abogado “feminista”

La crónica de The Clinic sobre la doble vida del abogado “feminista” de la SMA —más allá de los detalles concretos del caso— pone el foco en una tensión conocida en los despachos y en la Administración: la distancia entre valores declarados y decisiones efectivas. En el plano jurídico, esto se traduce en expedientes que hablan un lenguaje muy distinto al del discurso público. La incoherencia no solo erosiona confianza; dificulta también la rendición de cuentas, porque resulta más complejo reconstruir qué criterios se aplicaron, qué fuentes se consultaron y cómo se justificaron determinadas líneas de actuación.

Cuando a esa brecha se suman sistemas de IA generalistas, poco transparentes y alojados en infraestructuras externas, el problema se agrava. Si una parte del razonamiento del caso se apoya en una herramienta que: (i) no ofrece una trazabilidad clara de las fuentes, (ii) funciona en servidores fuera de nuestro control efectivo y (iii) puede ser reajustada unilateralmente por terceros, el resultado es un expediente aún menos auditable. Las decisiones parecen surgir de una caja negra adicional, que se superpone a los sesgos humanos ya existentes.

En este contexto, la forma en que está concebido HAL9000 es relevante. No se trata solo de “usar IA”, sino de cómo se integra en la práctica jurídica. HAL9000 es una IA jurídica privada para despachos y profesionales del Derecho, que opera con infraestructura propia en España y sin envío de datos a proveedores externos de IA. La memoria del sistema insiste en una premisa sencilla: asuntos completos y trazables, no preguntas sueltas. Esto se traduce en hilos de trabajo donde caben documentos, estrategia, revisión y borradores, todo bajo un mismo contexto controlado por el profesional.

La privacidad no descansa en una simple declaración, sino en decisiones técnicas concretas: HAL9000 utiliza modelos open‑source servidos en infraestructura local, con procesamiento dentro del entorno del cliente, sin canal de envío a terceros ni uso de datos para entrenamiento externo. La auditoría interna de privacidad describe cifrado en reposo de los uploads mediante LUKS, eliminación física de archivos una vez indexados, mecanismos de purga por identificador y una política de logs que excluye prompts, documentos o transcripciones, limitando los registros a eventos técnicos mínimos. Este enfoque reduce la exposición de datos sensibles y acota el riesgo de que información de expedientes termine circulando fuera del control del despacho.

La trazabilidad también se aborda de forma específica. HAL9000 ha sido evaluado en un benchmark extremo a extremo, midiendo no solo el modelo en abstracto, sino lo que realmente ve el abogado en la interfaz: en una muestra de 120 consultas se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes verificadas desde la propia interfaz. La propia documentación reconoce que esta trazabilidad verificable no prueba un soporte semántico perfecto, pero sí constituye una señal fuerte de robustez documental y evita que lleguen afirmaciones al profesional sin fuente visible y revisable. Esto es clave cuando se quiere contrastar, por ejemplo, si un argumento supuestamente “feminista” se sustenta realmente en jurisprudencia y doctrina, o si responde más bien a un relato interno poco contrastado.

Otro punto relevante es el alcance y los límites de uso del sistema. Los términos de servicio definen expresamente que HAL9000 es una herramienta de asistencia profesional para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia, y elaboración y revisión de documentación jurídica. No está destinado a sustituir la valoración profesional del usuario ni a ser utilizado por autoridades judiciales para adoptar resoluciones, valorar prueba, interpretar los hechos o el Derecho y aplicarlo a un conjunto concreto de hechos en el ejercicio de la función jurisdiccional. Incluso en el caso de jueces y magistrados, su eventual uso queda restringido a tareas auxiliares (búsqueda, organización, anonimización), de forma que la decisión y el juicio de valor permanecen en manos humanas.

En cuanto al diseño del razonamiento, HAL9000 se diferencia de los asistentes generalistas maquillados con un simple prompt jurídico. Parte de un modelo base de alto nivel, pero incorpora post‑entrenamiento interno específico para adaptarlo al trabajo jurídico: se entrena para no inventar lo que no consta en el texto, para separar hechos, alegaciones, fundamentos y fallo, y para reconocer sus propios límites y responder con prudencia. Al trabajar con fuentes revisables y un criterio de relevancia antes de cerrar la respuesta, el sistema busca reducir dependencias, ruido y, sobre todo, errores críticos en asuntos sensibles. De nuevo, el protagonismo recae en la supervisión humana, pero con una herramienta que ofrece un mapa claro de las fuentes utilizadas.

Esta suma de elementos —infraestructura propia en España, ausencia de APIs externas, política de cero retención operativa de los contenidos sensibles, benchmark de trazabilidad y límites de uso bien definidos— encaja con las preocupaciones que laten tras noticias como la del abogado “feminista” de la SMA. No se trata solo de evitar incoherencias discursivas, sino de construir un entorno técnico y jurídico en el que el profesional pueda justificar con transparencia cómo llegó a cada argumento, qué documentación examinó y cuáles fueron los límites de la intervención de la IA. La responsabilidad última sigue siendo humana, pero el sistema está diseñado para que esa responsabilidad se pueda ejercer con más información y menos opacidad.

La noticia completa sobre la doble vida del abogado “feminista” de la SMA puede consultarse en The Clinic. El artículo, publicado en la fecha indicada en su RSS, está disponible en la web del medio: https://www.theclinic.cl