Las primeras demandas por uso de IA ya están aquí: qué significa para la abogacía

La nota de Medscape «Las demandas por uso de inteligencia artificial ya son una realidad», incluida entre sus últimas noticias médicas, es un síntoma de época. Que una plataforma dirigida a profesionales sanitarios empiece a tratar litigios relacionados con la IA indica que hemos abandonado la fase “experimental” y entramos en una etapa en la que las decisiones apoyadas en sistemas automatizados pueden acabar, de forma rutinaria, en un procedimiento judicial. Lo que se discuta hoy en el ámbito médico (errores diagnósticos, delegación excesiva en algoritmos, uso de datos de pacientes en servicios externos) tiene un paralelismo inmediato en la práctica jurídica.

Para la abogacía, el impacto es evidente. Si ya existen demandas vinculadas al uso de IA en otros sectores, es razonable anticipar reclamaciones por mala praxis profesional cuando una decisión procesal, una opinión jurídica o un documento clave se haya apoyado de forma acrítica en una herramienta de IA. El eje de la discusión no será tanto “si podía usarse IA” como “cómo se usó”: qué instrucciones se dieron, qué controles se aplicaron, cómo se revisó el resultado y, sobre todo, qué ocurrió con los datos del cliente durante todo ese proceso.

Aquí la infraestructura deja de ser un detalle técnico para convertirse en un factor jurídico. No es lo mismo subir escritos, contratos o sentencias a un servicio generalista en la nube, operado por terceros y alojado fuera de España o de la UE, que utilizarlos en una plataforma específicamente diseñada para trabajo jurídico, con servidores en España, sin APIs externas y sin cesión operativa de las consultas a proveedores de IA generalista. Cuando el proveedor declara que no envía los datos a terceros, que trabaja con infraestructura propia en España y que la ejecución se realiza sin subcontratar modelos externos, el abogado dispone de un argumento adicional a la hora de justificar que ha cuidado el secreto profesional y la privacidad de la información.

La auditoría pública de privacidad de HAL9000 refleja precisamente este enfoque: se ejecuta en un entorno privado del cliente, con procesamiento local de documentos, cifrado en reposo del volumen de uploads, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. No se registran contenidos sensibles en logs y los modelos que se utilizan son open‑source servidos dentro de esa misma infraestructura privada. Ello no elimina la necesidad de diligencia del profesional, pero acota el riesgo derivado de una eventual fuga de datos o de un uso secundario de la información para entrenar sistemas ajenos al despacho.

Otro elemento que previsiblemente aparecerá en las demandas relacionadas con IA es la trazabilidad del razonamiento. Un error puede ser jurídicamente reprochable de forma distinta si proviene de un “copia y pega” opaco, sin referencia alguna, que si el profesional puede demostrar que trabajó con un sistema que obliga a acompañar las respuestas de citas verificables y un mapa de fuentes. En el caso de HAL9000, la evaluación E2E publicada muestra que, en una muestra de 120 consultas, se generaron 794 citas visibles y se abrió correctamente la totalidad de las fuentes verificadas desde la propia interfaz. Este tipo de trazabilidad no garantiza por sí misma la corrección jurídica, pero sí permite al abogado revisar, contrastar y, llegado el caso, explicar al cliente y al juez de dónde salió cada afirmación.

También importa el tipo de modelo y su entrenamiento. Muchas soluciones intentan “convertir” un modelo generalista en abogado mediante instrucciones, sin un post‑entrenamiento interno real orientado al trabajo jurídico. Ello incrementa el riesgo de alucinaciones, mezclas entre hechos y fundamentos o invención de artículos inexistentes. HAL9000 parte de un modelo base de alto nivel, pero incorpora post‑entrenamiento interno propio para adaptarlo al razonamiento jurídico, enseñar a no inventar lo que no consta en el texto y separar hechos, alegaciones, fundamentos y fallo. De nuevo, esto no convierte la herramienta en oráculo infalible, pero sí en un entorno más alineado con la forma en que un profesional del Derecho estructura y valida su trabajo.

Frente a este paisaje, las cláusulas contractuales cobran especial relevancia. Los Términos del servicio de HAL9000 señalan expresamente que la plataforma es una herramienta de apoyo que no sustituye el criterio profesional, no toma decisiones jurídicas y no constituye asesoramiento jurídico autónomo. Se insiste en que el usuario debe revisar y validar los resultados antes de su uso, asumiendo la responsabilidad por las decisiones que adopte. Esta delimitación, junto con políticas de privacidad y reembolso claras, ayuda a evitar malentendidos sobre el papel de la IA y a encajarla en el marco de responsabilidad que ya conocemos para otros instrumentos de trabajo.

En la práctica, esto nos devuelve a una idea sencilla: la IA puede integrarse en la abogacía de forma responsable si se respeta una combinación de requisitos técnicos y deontológicos. Técnicamente, optar por sistemas con infraestructura propia en España, sin envío de datos a terceros ni uso para entrenamiento externo, con cifrado, minimización y posibilidades de purga verificable, reduce la superficie de riesgo. Profesionalmente, diseñar flujos de trabajo en los que HAL9000 se use para preparar borradores, revisar documentos, ordenar jurisprudencia o generar mapas de fuentes, pero manteniendo siempre una revisión humana crítica, encaja con la obligación de diligencia y supervisión que nos impone la normativa y la ética profesional.

Las primeras demandas por uso de IA no deberían llevarnos a rechazar la tecnología, sino a utilizarla con el mismo rigor que exigimos a cualquier otra herramienta que interviene en expedientes sensibles. Elegir soluciones que prioricen la privacidad, la ausencia de subcontratación con IA genérica y la trazabilidad de las fuentes, y asumir que el abogado sigue siendo el responsable último de lo que firma, puede marcar la diferencia entre un incidente gestionable y un conflicto serio de responsabilidad profesional.

La noticia «Las demandas por uso de inteligencia artificial ya son una realidad» puede consultarse en Medscape (sección Últimas): https://espanol.medscape.com