Admisiones universitarias, algoritmos y transparencia: lo que el caso UNAM recuerda al sector jurídico

La noticia de la BBC sobre el escándalo por los buenos resultados en las pruebas de admisión de la UNAM —la universidad más grande de América Latina— no va sobre inteligencia artificial en sentido estricto, pero sí sobre algo muy cercano: la confianza en los sistemas que deciden. Cuando un proceso selectivo produce un resultado estadísticamente llamativo, la reacción social suele ser inmediata: se pide revisar las reglas, comprobar si ha habido trato de favor, detectar fallos de diseño o incluso fraudes. En el fondo, lo que se discute es si el sistema es explicable y auditable o si, por el contrario, funciona como una caja negra a la que hay que creer por pura fe.

En el ámbito jurídico, ese debate no es ajeno. Jueces, fiscalías, despachos y opositores trabajan desde hace décadas con sistemas de selección y evaluación que, aunque no sean automatizados, comparten el mismo riesgo: si el procedimiento no es transparente, surgen sospechas de arbitrariedad. La introducción de IA en estos entornos no elimina el problema, sino que puede amplificarlo. Un modelo opaco que sugiere redactados, valora riesgos procesales o filtra jurisprudencia, pero que no deja claro en qué fuentes se apoya o qué límites reconoce, añade una capa adicional de incertidumbre. Si mañana hubiera un “escándalo por los buenos resultados” de una IA jurídica, la pregunta sería la misma que en el caso UNAM: ¿podemos reconstruir qué ha pasado?

Por eso, más allá de la espectacularidad de titulares sobre admisiones masivas, el caso sirve como recordatorio para la abogacía tecnológica: no basta con que una herramienta funcione aparentemente bien; es necesario que funcione de manera explicable. El propio marco normativo europeo (piénsese en la lógica del futuro Reglamento de IA o, en otra escala, en las exigencias de la jurisprudencia sobre motivación de resoluciones) apunta en esa dirección: cuando una decisión afecta a derechos o expectativas legítimas, debe poder justificarse de forma comprensible y apoyada en fuentes revisables. Trasladado a la práctica cotidiana, eso implica exigir a las soluciones de IA un nivel de trazabilidad que vaya más allá de la simple promesa de “usar un modelo avanzado”.

Aquí es donde cobra relevancia el tipo de enfoque que se ha adoptado en HAL9000.Legal. Según la documentación pública de AbogaTIC, la plataforma se ejecuta sobre infraestructura propia en España, sin envío de datos de los usuarios a proveedores externos de IA y sin subcontratación con plataformas generalistas. Esta arquitectura, combinada con medidas como el cifrado en reposo de los documentos adjuntos, la eliminación física de archivos tras su indexación y una política explícita de no registrar prompts, documentos o transcripciones en los logs operativos, busca precisamente reducir la superficie de riesgo asociada a cajas negras externas. No es solo una cuestión de cumplimiento formal de privacidad, sino de control material sobre el flujo de información en entornos donde se manejan expedientes sensibles.

Otro elemento que diferencia este tipo de soluciones frente a sistemas generalistas utilizados como “comodín” en el despacho es la trazabilidad. La propia web de HAL9000.Legal describe que la herramienta trabaja con citas verificables, mapas de fuentes e índices de entidades, y que ha sido evaluada en un benchmark end-to-end donde, en una muestra de 120 consultas, se verificó que las 794 fuentes citadas se abrían correctamente desde la interfaz real. Aunque el propio informe matiza que la trazabilidad no demuestra por sí sola un soporte semántico perfecto, sí ofrece una señal de robustez documental: el abogado no recibe una afirmación huérfana de referencia, sino un texto conectado con materiales revisables. De cara a evitar “escándalos” futuros sobre cómo se ha generado una determinada argumentación, esta capacidad de reconstruir el razonamiento documentado es tan importante como la respuesta en sí.

A ello se suma una concepción prudente del rol de la IA en el trabajo jurídico. Los términos del servicio de HAL9000.Legal insisten en que se trata de una herramienta de apoyo que no sustituye el criterio profesional, no constituye asesoramiento autónomo y exige revisión y validación por parte del usuario antes de emplear los resultados en contextos reales. El modelo ha sido post-entrenado internamente para adaptarse al razonamiento jurídico, separando hechos, alegaciones, fundamentos y fallo, y está expresamente diseñado —según la memoria pública— para reconocer límites y evitar “inventar” lo que no consta en el texto. Este énfasis en la supervisión humana y en la fidelidad a la documentación contrasta con el uso ocasional de modelos generalistas sin control, donde el profesional se arriesga a asumir como propios errores o fabulaciones de un sistema que ni siquiera está bajo su jurisdicción ni en su territorio.

El caso UNAM, leído desde la perspectiva de AbogaTIC, actúa así como un espejo. Nos recuerda que, cuando se combinan decisiones relevantes (admisión, selección, estrategia procesal) con sistemas complejos (tribunales, algoritmos, plataformas de IA), el verdadero test no es solo si los resultados son buenos, sino si son explicables, auditables y revisables por quien asume la responsabilidad final. En el sector jurídico español, eso pasa por apostar por soluciones con infraestructura controlada, sin externalizar datos a terceros ajenos al expediente, con trazabilidad reforzada y con un diseño que asuma la centralidad de la supervisión humana. No se trata de demonizar la tecnología, sino de integrarla en una cultura profesional que no puede permitirse depender de cajas negras que mañana puedan estar en el punto de mira mediático o regulatorio.

La información de partida puede consultarse en la fuente original.