IA, datos de salud y Derecho sanitario: por qué la infraestructura importa tanto como el algoritmo

La mención explícita a la inteligencia artificial y a los datos de salud como ejes del XXXII Congreso Nacional de Derecho Sanitario, organizado en el entorno de la Organización Médica Colegial, confirma algo que muchos despachos ya perciben en su día a día: la discusión sobre algoritmos ya no es una curiosidad tecnológica, sino un asunto de responsabilidad profesional, gobierno del dato y seguridad del paciente. En Derecho sanitario, esta discusión no se limita a la clínica; alcanza de lleno al modo en que abogados, peritos y aseguradoras tratan historias clínicas, informes y bases de datos sanitarias.

Los datos de salud concentran múltiples capas de riesgo: son especialmente sensibles, permiten inferir patologías, hábitos y situaciones personales, y pueden tener efectos en aseguramiento, empleo o estigmatización si no se gestionan con rigor. Para un despacho que litiga en responsabilidad médica o asesora a centros sanitarios, utilizar asistentes de IA genéricos alojados fuera de la UE o con políticas de reutilización de datos introduce un vector de riesgo difícil de justificar ante un juez o un colegio profesional. La cuestión práctica que plantea el Congreso es nítida: ¿qué trazabilidad real tiene la IA que usamos cuando analizamos una historia clínica?, ¿sabemos exactamente dónde se ejecuta y qué ocurre con esos documentos?

HAL9000.Legal se plantea precisamente como respuesta a ese tipo de exigencias. Según su documentación pública, no se trata de un simple chatbot generalista adaptado por instrucciones, sino de una plataforma jurídica privada, con infraestructura propia en España y sin cesión operativa de consultas a proveedores generalistas de IA. La herramienta está pensada para trabajar con expedientes completos, no solo con preguntas sueltas, y para integrarse en el flujo real del despacho: análisis de documentos, elaboración de borradores, revisión de escritos y exploración de la jurisprudencia relevante, manteniendo la supervisión humana como condición de uso.

Los Términos y Condiciones del servicio son claros al definir la finalidad prevista: HAL9000 es un sistema de asistencia profesional para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia y elaboración o revisión de documentación jurídica. Está destinado a abogados y otros profesionales del Derecho, bajo su criterio y supervisión, y expresamente no pretende sustituir la valoración profesional. En el caso particular de jueces y magistrados, su uso legítimo queda limitado a tareas auxiliares (búsqueda documental, organización de información, anonimización) y excluye la valoración autónoma de pruebas, la aplicación del Derecho a hechos concretos o la influencia material en el resultado de una resolución.

La auditoría interna de privacidad, hecha pública en versión sin datos sensibles, proporciona detalles relevantes para asuntos donde se manejan datos sanitarios. Se describe una arquitectura en la que la interfaz web local gestiona adjuntos y sesiones, los secretos y endpoints internos se mantienen fuera del navegador y el procesamiento de OCR, embeddings, búsqueda y transcripción se realiza dentro de un entorno privado. Los archivos subidos se alojan cifrados en reposo y se eliminan físicamente tras su indexación, con identificadores internos que permiten auditoría y purga, y sin que prompts, documentos o transcripciones se registren en los logs operativos. Además, la auditoría indica que HAL9000 utiliza modelos open‑source servidos en infraestructura local del cliente, sin canal de envío a terceros ni uso de los datos para entrenamiento externo.

En materia de trazabilidad, la plataforma incorpora una capa que suele faltar en las soluciones generalistas: según los datos públicos de su evaluación end‑to‑end, en una muestra de 120 consultas se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes documentales desde la propia interfaz. Esta verificación no garantiza por sí sola la corrección jurídica de cada razonamiento, pero sí ofrece una señal de robustez documental: el abogado puede seguir el fundamento jurídico hasta la norma o la sentencia concreta, reduciendo la posibilidad de que lleguen al expediente afirmaciones sin fuente revisable. En Derecho sanitario, donde un matiz en la jurisprudencia sobre culpa, pérdida de oportunidad o consentimiento informado puede decidir un pleito, esta capacidad de rastrear cada cita no es un añadido cosmético, sino un requisito de trabajo serio.

Otro elemento que diferencia a HAL9000 frente a asistentes basados exclusivamente en prompts es su postentrenamiento interno específico para el trabajo jurídico. La documentación destaca que el modelo se ha ajustado para no inventar lo que no consta en el texto, separar hechos, alegaciones, fundamentos y fallo, y comportarse con mayor prudencia y fidelidad al documento. Esto encaja con la necesidad, en Derecho sanitario, de evitar mezclas peligrosas entre versiones de las partes, antecedentes fácticos y razonamientos judiciales: confundir una alegación con un hecho probado puede distorsionar por completo la lectura de un caso de mala praxis o la valoración de un baremo indemnizatorio.

Nada de lo anterior tiene sentido si se pierde de vista el principio básico: la IA jurídica sigue siendo una herramienta de apoyo. Los propios Términos de HAL9000 insisten en que no presta asesoramiento jurídico autónomo, no toma decisiones y requiere siempre revisión por parte del profesional. Para la práctica del Derecho sanitario, esto significa que la responsabilidad última sobre cómo se utilizan las historias clínicas, cómo se selecciona la jurisprudencia que se aporta y cómo se argumenta la relación de causalidad clínica-jurídica sigue recayendo en el abogado o en el jurista de la Administración, no en el sistema. La aportación real de una herramienta así es permitir trabajar con mayor volumen de documentación —incluidos expedientes médicos complejos o grabaciones de sesiones clínicas— con un nivel de control del dato y de la fuente que pueda explicarse, llegado el caso, ante un órgano judicial.

El XXXII Congreso Nacional de Derecho Sanitario abre, en definitiva, un debate que la abogacía no puede abordar solo desde el ángulo regulatorio o deontológico. La elección de herramientas de IA pasa a formar parte de la diligencia profesional: qué infraestructura hay detrás, dónde están los servidores, qué registros se conservan, si hay o no envío a terceros y qué límites de uso se han pactado. En un ámbito tan sensible como el de los datos de salud, soluciones técnicas como HAL9000 —con infraestructura propia en España, políticas de no envío de datos a proveedores externos de IA, cifrado y minimización— ofrecen un punto de partida coherente con las exigencias crecientes de privacidad, trazabilidad y respeto a la autonomía de pacientes y profesionales. El reto para los próximos congresos será medir hasta qué punto el sector jurídico-sanitario adopta estas buenas prácticas y las transforma en estándar de profesión.

Puede consultarse la referencia sobre el XXXII Congreso Nacional de Derecho Sanitario, en el que se destacan la inteligencia artificial y los datos de salud como ejes principales, en el portal informativo de la Organización Médica Colegial, Médicos y Pacientes: https://www.medicosypacientes.com