IA y documentos judiciales: la importancia de revisar cómo se generan
Una noticia sobre dos abogados brasileños sancionados por manipular un prompt en documentos judiciales pone el foco en la responsabilidad profesional, la trazabilidad y la revisión humana de los resultados de la IA.
La noticia disponible se limita a señalar que dos abogados brasileños fueron multados por manipular un prompt de IA en unos documentos judiciales. Sin más información sobre el expediente, no cabe extraer conclusiones sobre qué instrucciones se alteraron, qué consecuencias tuvo ni cuál fue el razonamiento de la autoridad que impuso la multa. Sí plantea una cuestión de interés general: el uso de IA en un escrito no elimina el deber profesional de verificar lo que se presenta.
Un prompt puede orientar la respuesta de un sistema, pero no acredita por sí mismo que las afirmaciones resultantes sean correctas. En el trabajo jurídico conviene contrastar los hechos con el expediente y verificar las normas, resoluciones y citas antes de incorporar cualquier contenido a un documento. También es importante poder distinguir entre hechos, alegaciones y conclusiones, y detectar cuándo la herramienta no dispone de información suficiente.
La elección de la tecnología también importa. Introducir documentos en servicios externos puede plantear cuestiones de confidencialidad y tratamiento de datos. Por eso, además de valorar la utilidad de una herramienta, los profesionales deben atender a dónde se procesa la información, quién puede acceder a ella y qué mecanismos existen para revisar el origen de las respuestas.
HAL9000 se presenta como una herramienta de apoyo para profesionales del Derecho, no como sustituto de su criterio. Según la información publicada por AbogaTIC, funciona en infraestructura propia en España o en un entorno dedicado y está diseñada para no enviar consultas a plataformas generalistas de IA externas. Su propuesta incluye fuentes revisables y trazabilidad documental; elementos que pueden facilitar la comprobación, aunque no sustituyen la validación profesional ni garantizan por sí solos que cada conclusión sea correcta.
La utilidad de la IA jurídica depende, en definitiva, de cómo se integra en el trabajo: con límites claros, protección adecuada de la información y revisión humana antes de utilizar el resultado. La tecnología puede ayudar a organizar documentos, localizar referencias y preparar borradores, pero la responsabilidad sobre el escrito presentado sigue correspondiendo al profesional.
Fuente original: El Chapuzas Informático.
Claves del artículo
- La información facilitada no detalla las circunstancias del caso brasileño; conviene evitar conclusiones sobre los motivos o el alcance de la sanción.
- Los prompts orientan una herramienta, pero no validan los hechos ni las citas que genera.
- La revisión profesional, la comprobación de fuentes y el control de los datos son esenciales en el uso jurídico de IA.
- HAL9000 se ofrece como apoyo a profesionales, con infraestructura propia en España o dedicada, fuentes revisables y supervisión humana.