La IA también llega a la Justicia: usarla no basta, hay que poder revisarla
Bahía César señala que la Justicia argentina ya utiliza inteligencia artificial, mientras las auditorías siguen siendo escasas. El dato invita a preguntarse cómo se controla la tecnología cuando entra en un ámbito en el que la supervisión y la trazabilidad son esenciales.
La información de Bahía César, según el titular y el contenido disponible, señala que la Justicia argentina ya utiliza inteligencia artificial, pero que las auditorías son escasas. No se aportan detalles sobre los sistemas concretos, las funciones que desempeñan ni las revisiones realizadas; conviene, por tanto, no extraer conclusiones más específicas.
La cuestión de fondo trasciende el uso de una tecnología determinada. En un entorno jurídico, una respuesta aparentemente correcta no basta: hay que poder conocer sus límites, revisar las fuentes que la sustentan y comprobar qué datos se han tratado. La supervisión humana es especialmente importante cuando un resultado puede influir en derechos o decisiones.
También conviene distinguir entre tareas auxiliares y decisiones jurisdiccionales. Buscar o recuperar documentación, organizar información o anonimizar textos no equivale a valorar pruebas ni a aplicar el Derecho a los hechos de un caso. La responsabilidad sobre esas valoraciones no debe desplazarse a un sistema automatizado.
La propuesta de HAL9000 parte de ese planteamiento: se ofrece como apoyo a profesionales del Derecho para investigación, análisis documental y elaboración o revisión de textos, bajo su criterio y supervisión. Sus condiciones excluyen su uso para que una autoridad judicial valore pruebas, interprete o aplique el Derecho a un caso concreto o adopte resoluciones. Esa delimitación es relevante: la herramienta no debe confundirse con quien ejerce la función jurisdiccional.
En materia de privacidad, AbogaTIC describe HAL9000 como una solución basada en infraestructura propia en España o en entornos dedicados, sin enviar operativamente las consultas a plataformas generalistas de IA. La información pública del sistema también describe medidas de control de datos, como el procesamiento en un entorno privado, la eliminación de archivos tras determinadas tareas y la limitación de los registros técnicos. Son características declaradas por el proveedor y deben valorarse junto con las necesidades y obligaciones de cada organización.
La trazabilidad aporta otra salvaguarda práctica: poder abrir y revisar las fuentes ayuda a detectar errores y a contrastar lo que propone el sistema. No garantiza por sí sola que una interpretación sea correcta, ni elimina la necesidad de verificar el resultado. Del mismo modo, una auditoría útil debe atender al alcance y a la metodología de la revisión, no solo a la existencia de un informe.
La información pública de HAL9000 incluye una auditoría interna de privacidad. Esa descripción no debe presentarse como una certificación independiente ni como una auditoría integral de todos los aspectos del sistema. La distinción importa: la confianza se construye explicando qué se ha revisado, con qué criterios y cuáles son los límites de las conclusiones.
La noticia sirve, en suma, para recordar que incorporar IA a la Justicia exige algo más que disponibilidad tecnológica. Privacidad, control, fuentes verificables y supervisión profesional son condiciones para un uso responsable; y ninguna herramienta debe sustituir el juicio ni la responsabilidad de quienes trabajan con el Derecho. Fuente original: Bahía César.
Claves del artículo
- La fuente disponible no permite concretar qué sistemas de IA utiliza la Justicia argentina ni qué auditorías se han llevado a cabo.
- En el ámbito jurídico, deben poder revisarse las fuentes y los límites de las respuestas generadas.
- HAL9000 está concebido para asistir a profesionales del Derecho bajo supervisión; no para adoptar decisiones judiciales.
- La privacidad y la trazabilidad son relevantes, pero no sustituyen la verificación humana ni una evaluación independiente cuando corresponda.