Cuando la IA inventa testigos: el caso de México y las lecciones para la abogacía española

La noticia que llega desde México, adelantada por medios internacionales, describe un escenario que muchos temían que acabara produciéndose: un abogado habría utilizado ChatGPT en un juicio por asesinato y la herramienta habría generado testigos inexistentes, citados como si fueran parte del caso. Más allá de los matices procesales —que corresponderá valorar a los tribunales y a las partes implicadas—, el episodio ilustra un riesgo ya documentado: los modelos de IA generativa generalistas pueden producir respuestas verosímiles pero falsas, sin una señal clara para el usuario no experto de que está ante una invención. En un entorno penal, donde la gestión de la prueba y de los hechos es especialmente delicada, introducir material ficticio en un escrito o en una intervención oral puede comprometer la estrategia de defensa, la credibilidad del letrado y, en última instancia, los derechos del acusado.

El problema, sin embargo, no es únicamente técnico. Es también organizativo y de cultura profesional. Utilizar una herramienta diseñada para conversación general en internet, sin garantías de privacidad reforzada ni control interno de datos, para trabajar con expedientes penales, implica exponer información sensible a terceros y asumir un comportamiento del modelo que no ha sido ajustado específicamente al razonamiento jurídico. La propia dinámica de algunos asistentes generalistas —centrados en producir una respuesta fluida a partir de indicaciones puntuales— favorece que se mezclen hechos, alegaciones y conclusiones sin separación clara, o que se introduzcan referencias inexistentes si el modelo detecta huecos en la información disponible. Cuando el abogado se limita a copiar y pegar sin contrastar, el riesgo de trasladar esa ficción al procedimiento es evidente.

Frente a este tipo de escenarios, están apareciendo propuestas que intentan aproximar la IA a la operativa real del despacho, en lugar de adaptar a la fuerza una IA generalista al trabajo jurídico. HAL9000.Legal es un ejemplo de esa aproximación: se presenta como una IA jurídica privada para despachos, con infraestructura propia en España y sin envío operativo de consultas ni documentos a plataformas generalistas externas. Según su documentación pública, el foco no está solo en "usar IA", sino en hacerlo con fuentes revisables, trazabilidad documental y una lógica de trabajo por asuntos completos, en la que la investigación, la redacción de borradores y la revisión se realizan dentro de un mismo hilo de trabajo que el profesional puede supervisar de principio a fin.

Uno de los elementos que más contrasta con el uso improvisado de IA generalista en pleitos penales es la insistencia de HAL9000 en la trazabilidad y en el control de la alucinación jurídica. La plataforma afirma haber sido postentrenada internamente para que el modelo se adapte mejor al razonamiento jurídico, con énfasis en separar hechos, alegaciones, fundamentos y fallo, y en "no inventar lo que no consta en el texto". Ese diseño se refuerza con un sistema de citas verificables y un mapa de fuentes que permite al abogado seguir el fundamento jurídico de la respuesta, localizar las resoluciones o normas citadas y revisar directamente los documentos subyacentes. Una auditoría interna de privacidad hecha pública por Abogacía Tecnológica añade que el sistema opera con modelos open‑source servidos en infraestructura local, con procesamiento dentro del entorno del cliente, cifrado en reposo para los adjuntos y mecanismos de purga, y sin canal de envío de datos a terceros ni uso de los materiales del cliente para entrenamientos externos.

Ahora bien, incluso la mejor arquitectura técnica no exime al profesional de su responsabilidad. Los propios términos y condiciones de HAL9000 subrayan que se trata de una herramienta de apoyo basada en IA generativa que no sustituye el criterio profesional, no constituye asesoramiento autónomo y exige que el usuario revise y valide los resultados antes de utilizarlos. La finalidad prevista del sistema se limita a tareas como la investigación jurídica, la recuperación y análisis documental, la consulta de legislación y jurisprudencia o la elaboración y revisión de documentación jurídica. En el caso de jueces y magistrados, se establece de forma expresa que el uso, para no salirse de la finalidad prevista, ha de circunscribirse a funciones auxiliares o preparatorias que no valoren pruebas, no interpreten ni apliquen el Derecho a hechos concretos y no influyan materialmente en el resultado de una decisión. Es decir, el diseño asume desde el inicio que la IA no puede ocupar el lugar del juicio profesional ni de la función jurisdiccional.

La lección que deja la noticia procedente de México no es que la IA deba quedar fuera de los tribunales, sino que su integración exige una doble cautela. Por un lado, tecnológica: optar por herramientas capaces de operar en entornos privados, con servidores controlados en España, sin subcontratar a plataformas genéricas para el procesamiento del expediente y con trazabilidad suficiente para que el abogado pueda rastrear qué se cita y en base a qué. Por otro lado, ética y deontológica: recordar que la obligación de diligencia incluye verificar la información, contrastar las fuentes y no delegar en una máquina la construcción de hechos, la valoración de la prueba o la estrategia del caso. En este contexto, soluciones jurídicas especializadas como HAL9000 no son un escudo absoluto frente al error, pero sí marcan una dirección clara: menos improvisación con asistentes generalistas y más diseño específico, transparencia y supervisión humana en cada paso del uso profesional de la IA.

Puedes leer la noticia completa sobre el uso de ChatGPT en un juicio en México y la invención de testigos en el diario El Mundo, en su edición digital: https://www.elmundo.es