¿Quién responde por las sanciones a la IA? Lecciones del caso Anthropic para la abogacía española

La resolución que declara ilegal una sanción contra Anthropic se inserta en un escenario global de creciente conflicto entre reguladores y grandes plataformas de IA generativa. Aunque los detalles jurídicos concretos de la sentencia corresponden al análisis de la noticia de DW, sí podemos extraer una idea de fondo relevante para la práctica profesional: el marco sancionador en materia de IA está en construcción, y las empresas que sostienen sus procesos en proveedores generalistas pueden verse atrapadas en una incertidumbre que no controlan. La cuestión no es solo si la sanción concreta prospera o no, sino qué nivel de dependencia asumimos de infraestructuras que están en el centro de esa fricción regulatoria.

Desde la perspectiva de un despacho español, esta noticia no es lejana. Si el núcleo documental y de estrategia de un bufete se apoya en plataformas externas, cuyos modelos se alojan en otros países y trabajan con lógicas de reutilización de datos o de opacidad en la retención, parte del riesgo se traslada directamente al profesional: cumplimiento de normativa de protección de datos, secreto profesional, deber de diligencia y, en ocasiones, obligaciones de confidencialidad reforzadas por mandato contractual o normativo. Un cambio de criterio de una autoridad o una sanción que luego es anulada no corrigen, a posteriori, la exposición de la información que ya se ha puesto en juego.

En este contexto se entiende mejor la apuesta de algunos proyectos de IA jurídica por reducir la dependencia de terceros y reforzar la privacidad estructural. HAL9000 se presenta como una IA jurídica privada para despachos, con infraestructura propia en España y sin cesión operativa de consultas a plataformas generalistas. La memoria disponible describe una arquitectura pensada para trabajar con documentos y expedientes reales dentro de un mismo hilo de trabajo, apoyándose en servidores en España y evitando el envío de datos a proveedores externos de IA. Esta aproximación no elimina por sí sola todo riesgo, pero sí acota de forma clara quién trata qué datos, dónde se procesan y bajo qué control efectivo.

Los términos del servicio insisten en esa idea de control y de prudencia profesional. HAL9000 se define como herramienta de apoyo para investigación jurídica, análisis documental, consulta de legislación y jurisprudencia y elaboración o revisión de documentación jurídica, dirigida a abogados y otros profesionales del Derecho. No pretende sustituir el criterio del usuario ni convertirse en asesoramiento jurídico autónomo. Incluso prevé expresamente el eventual uso por jueces y magistrados, pero lo limita a tareas auxiliares (búsqueda, organización, anonimización), excluyendo de su finalidad prevista la interpretación y aplicación del Derecho a hechos concretos, la valoración de prueba o la formulación de recomendaciones decisorias. Esa autolimitación funcional es relevante también desde la óptica del futuro Reglamento europeo de IA y las categorías de riesgo asociadas a sistemas que intervienen en decisiones públicas.

La auditoría de privacidad pública de HAL9000 proporciona información adicional sobre cómo se articula técnicamente esa promesa de privacidad. El sistema se ha diseñado para operar en entorno privado del cliente, con procesamiento local de documentos, cifrado en reposo de los adjuntos, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. La lógica de OCR, embeddings, búsqueda y transcripción se ejecuta dentro de ese entorno privado, sin existencia de un canal de envío a terceros ni uso de los datos del cliente para entrenamientos externos. El modelo principal se sirve en infraestructura local y el motor de inferencia se configura sin registro de prompts y respuestas, limitando los logs operativos a lo estrictamente necesario para el mantenimiento. No se trata solo de un compromiso declarativo, sino de una arquitectura orientada a minimizar la retención y facilitar auditorías y purgas verificables.

Otro elemento que distingue a esta aproximación frente a la IA genérica es la trazabilidad. HAL9000 ha sido evaluado en un benchmark end-to-end sobre su interfaz real, midiendo no solo la calidad de la respuesta, sino la apertura efectiva de las fuentes documentales citadas. En una muestra de 120 consultas, se registraron 794 citas visibles y 794 aperturas correctas de fuentes verificables desde la interfaz. Esto no garantiza por sí solo infalibilidad semántica, pero sí aporta una señal de robustez documental y reduce la opacidad: el abogado recibe afirmaciones acompañadas de fuentes visibles y revisables. En un entorno en el que las decisiones de autoridades y tribunales sobre IA pueden ser revisadas y discutidas, disponer de un mapa de fuentes, citas y entidades facilita justificar, revisar y, en su caso, corregir el trabajo generado con ayuda de la herramienta.

El contraste con muchos modelos generalistas maquillados para Derecho es evidente en la propia memoria de HAL9000. Mientras que esas herramientas suelen limitarse a cambiar las instrucciones del prompt sobre un modelo cerrado, con el riesgo de inventar artículos, mezclar antecedentes y fallos o reaccionar de forma imprevisible ante contextos parciales, el postentrenamiento interno de HAL9000 se orienta a ajustar el comportamiento al razonamiento jurídico, reducir las invenciones, separar hechos, alegaciones, fundamentos y fallo, y reconocer sus propios límites. De nuevo, no se promete infalibilidad, sino un comportamiento más alineado con el trabajo profesional y, sobre todo, más trazable. En un clima regulatorio en tensión, esto no es un lujo técnico, sino una forma razonable de mitigar riesgos y documentar el criterio aplicado en cada asunto.

Desde una óptica de cumplimiento, la combinación de tres factores —infraestructura propia en España, no envío de datos a proveedores externos de IA y diseño centrado en la trazabilidad— ofrece una vía práctica para que los despachos afronten el panorama regulatorio de la IA con algo más de certidumbre. Las obligaciones de privacidad, secreto profesional y diligencia no desaparecen, pero se gestionan en un perímetro controlado, bajo jurisdicción y estándares locales, y con herramientas que facilitan la revisión humana de cada resultado. En un mundo donde una sanción relevante puede ser posteriormente declarada ilegal, la mejor defensa del despacho sigue siendo poder demostrar que sus decisiones no se tomaron en piloto automático, sino sobre la base de un criterio profesional informado y con una trazabilidad documental clara.

La evolución del caso Anthropic y de otras investigaciones regulatorias será, con toda probabilidad, una referencia constante en el debate sobre IA y Derecho en los próximos años. Para la práctica de la abogacía en España, la enseñanza inmediata es menos espectacular, pero más útil: elegir con cuidado el modelo tecnológico sobre el que se apoya el trabajo jurídico, priorizar infraestructuras bajo control propio, minimizar la exposición innecesaria de datos sensibles y exigir trazabilidad verificable a cualquier sistema de IA que intervenga en expedientes reales. La noticia completa sobre la decisión relativa a Anthropic puede consultarse en la fuente original de DW (Deutsche Welle): https://www.dw.com