La IA entra en quirófano… y en el BOE: lecciones del Congreso de Derecho Sanitario para el mundo jurídico

El avance de Redacción Médica sitúa la Inteligencia Artificial como protagonista del XXXII Congreso Nacional de Derecho Sanitario de la Asociación Española de Derecho Sanitario (AEDS). No es casual: la IA está entrando de lleno en ámbitos tan sensibles como el diagnóstico, la planificación terapéutica o la gestión de listas de espera. Eso obliga a revisar con lupa cómo se tratan los datos clínicos, quién responde si un sistema automatizado falla y qué nivel de transparencia debe exigirse a las herramientas que apoyan decisiones que afectan a la salud y a la vida de las personas.

Para el mundo jurídico, este debate no es ajeno. El Derecho Sanitario funciona aquí como laboratorio adelantado: muchos de los riesgos que se identifican con la IA médica son análogos a los que aparecen cuando un despacho, una asesoría o incluso un órgano jurisdiccional empiezan a apoyarse en sistemas de IA. Si en sanidad preocupa la "caja negra" de un algoritmo que influye en un diagnóstico, en el sector legal preocupa la opacidad de modelos generalistas que generan conclusiones, mezclan hechos y fundamentos o inventan citas sin un soporte documental revisable.

El contexto sanitario también pone en primer plano la cuestión de la infraestructura. En un hospital resulta cada vez más evidente que no es lo mismo procesar una historia clínica en sistemas propios que enviarla, aunque sea parcialmente, a plataformas genéricas alojadas en terceros países. En el entorno jurídico sucede algo muy parecido con expedientes, escritos de acusación, demandas o informes periciales. Por eso cobra relevancia el enfoque de soluciones como HAL9000: una IA jurídica privada para despachos y operadores jurídicos, servida en infraestructura propia en España y sin envío de consultas a proveedores externos de IA.

Según la documentación pública de AbogaTIC, HAL9000 se ha diseñado para operar en un entorno controlado, reduciendo la exposición de la información sensible. La auditoría interna de privacidad describe un flujo de trabajo en el que los documentos que se suben se procesan en un volumen cifrado, se indexan y se eliminan físicamente tras el embedding, con mecanismos de purga por identificador. La inferencia se realiza con modelos open‑source servidos en infraestructura local, sin canal de envío a terceros ni uso de los datos para entrenamiento externo. Además, el motor de inferencia se configura sin registrar los contenidos de las consultas o de las respuestas en logs.

Otro elemento que enlaza bien con las preocupaciones del Derecho Sanitario es la necesidad de trazabilidad. En el ámbito clínico se insiste en poder reconstruir por qué se tomó una decisión y qué información se tuvo en cuenta. En el ámbito jurídico, HAL9000 incorpora un sistema de trabajo con fuentes revisables y una trazabilidad verificable: en el benchmark E2E descrito por Abogatic, en una muestra de 120 consultas se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes desde la propia interfaz. Esto no garantiza por sí mismo la corrección material de todas las respuestas, pero sí reduce la opacidad y permite que el profesional revise y contraste cada referencia antes de integrarla en su trabajo.

La propia filosofía de uso que se recoge en los Términos y Condiciones de HAL9000 va en línea con el tipo de cautelas que se están discutiendo en el Congreso de Derecho Sanitario. El servicio se define como una herramienta de asistencia profesional para investigación jurídica, búsqueda y análisis documental, consulta de legislación y jurisprudencia, y elaboración o revisión de documentación. No constituye asesoramiento jurídico autónomo ni sustituye el criterio del usuario, que debe revisar y validar los resultados. Incluso en el caso de eventuales usos por jueces o magistrados, los términos limitan expresamente la finalidad a tareas auxiliares (búsqueda, anonimización, organización de información), excluyendo que el sistema valore pruebas, interprete o aplique el Derecho a un conjunto concreto de hechos o formule recomendaciones sobre el caso.

Este enfoque prudente se refuerza con el propio diseño del modelo: según AbogaTIC, HAL9000 incorpora un post‑entrenamiento interno específico para razonamiento jurídico, orientado a separar hechos, alegaciones, fundamentos y fallo, y a evitar que el sistema "invente" lo que no figura en los textos de referencia. En lugar de depender exclusivamente de instrucciones ad hoc sobre un modelo generalista, se busca acercar el comportamiento del sistema al tipo de razonamiento más estructurado que se espera de un profesional del Derecho, reduciendo errores críticos y mejorando la fidelidad al documento.

La experiencia de la IA en sanidad deja, en definitiva, dos lecciones claras que el sector jurídico puede aprovechar. La primera es que la cuestión no es "usar o no usar" IA, sino cómo hacerlo y con qué arquitectura de garantías: dónde se alojan los datos, quién tiene acceso, qué se registra, cómo se purga y qué se puede auditar. La segunda es que, tanto en hospitales como en despachos, la promesa de eficiencia no puede desplazar la centralidad del criterio humano: la IA debe operar como apoyo trazable y revisable, nunca como oráculo opaco. En este sentido, la evolución de congresos como el de la AEDS y el desarrollo de herramientas como HAL9000 apuntan a un mismo horizonte: integrar la IA en la práctica profesional desde el diseño, con privacidad, supervisión y responsabilidad en el centro.

La noticia sobre el protagonismo de la Inteligencia Artificial en el XXXII Congreso Nacional de Derecho Sanitario de la AEDS puede consultarse en Redacción Médica, medio de referencia en información sanitaria en España, a través de su sitio web: https://www.redaccionmedica.com.