¿Quién responde cuando la IA ‘se rebela’? Riesgos jurídicos, responsabilidad y por qué la trazabilidad importa

La pieza de Forbes Colombia, titulada «¿Quién es responsable cuando la IA se rebela? Los abogados ven nuevos riesgos», refleja una preocupación que ya es cotidiana en muchos despachos: el uso intensivo de herramientas de inteligencia artificial en la práctica jurídica introduce nuevas capas de riesgo, especialmente cuando esas herramientas se apoyan en modelos generalistas opacos. Aunque la noticia se sitúa en clave colombiana, el interrogante es universal: cuando una respuesta generada por IA conduce a una decisión equivocada, ¿quién responde ante el cliente o ante el tribunal?

En entornos como el europeo y el español, el punto de partida es claro: la IA es, jurídicamente, una herramienta. No es sujeto de derechos ni obligaciones, ni puede ser, por sí misma, titular de responsabilidad. La consecuencia práctica es que el foco se desplaza hacia los profesionales del Derecho y las organizaciones que deciden incorporar IA a su flujo de trabajo. Es el abogado quien selecciona el sistema, define para qué lo usa, qué datos le facilita y hasta qué punto revisa lo que produce. Y es el despacho (o la entidad) quien responde por la arquitectura global de cumplimiento: contratos, políticas de privacidad, medidas de seguridad, evaluación de proveedores y protocolos de supervisión.

En este contexto, uno de los elementos que más inquietud despierta –y que subyace a la noticia de Forbes– es la dependencia operativa de plataformas generalistas que procesan la información fuera de la UE o sin un control granular sobre la retención de datos. Utilizar IA para expedientes reales, con datos de clientes, diligencias, grabaciones o resoluciones, exige algo más que un ‘acepto cookies’: se requiere identificar con precisión dónde se procesan los datos, quién tiene acceso, si se emplean para entrenar modelos de terceros y durante cuánto tiempo se conservan. Cuando estas respuestas son difusas, el riesgo de responsabilidad –contractual, profesional o incluso sancionadora– se multiplica.

HAL9000 se ha diseñado precisamente para operar en el extremo opuesto de ese espectro. La plataforma se presenta como una IA jurídica privada, con infraestructura propia en España, sin cesión operativa de consultas a proveedores externos de IA y sin envío de datos a plataformas generalistas. Su arquitectura de privacidad, auditada internamente, pivota sobre varios principios: procesamiento local de documentos en el entorno del cliente, cifrado en reposo de los adjuntos, eliminación física de los archivos una vez indexados y mecanismos de purga por identificador. Además, la política de logs limita la retención a eventos técnicos mínimos, sin registrar contenidos sensibles como prompts, documentos o transcripciones.

Este enfoque técnico tiene implicaciones jurídicas directas. En primer lugar, reduce el círculo de potenciales corresponsables o encargados del tratamiento: el despacho sabe quién procesa qué, dónde y con qué finalidad. En segundo lugar, facilita el cumplimiento de obligaciones derivadas de la normativa española y europea en materia de protección de datos, al evitar que la información viaje a terceros países o a infraestructuras que el propio profesional no controla. Y, en tercer lugar, hace más defendible la posición del abogado frente al cliente y frente al colegio profesional: no se está apoyando en una ‘caja negra’ externa, sino en una herramienta que opera dentro de un perímetro claramente definido.

Un segundo eje que conecta de lleno con la preocupación de Forbes es la trazabilidad. Uno de los mayores problemas de muchas herramientas basadas en IA generalista es la dificultad para reconstruir el razonamiento: el sistema ofrece una respuesta fluida, pero no siempre muestra con claridad qué fuentes ha utilizado ni cómo ha llegado a esa conclusión. En el trabajo jurídico, esta opacidad no es una mera incomodidad; puede convertirse en un problema de responsabilidad si impide justificar por qué se siguió un criterio concreto o si enmascara citas inexistentes. HAL9000 ha sido ajustado para trabajar con fuentes revisables y trazabilidad verificable. Según la auditoría sobre su interfaz real, en una muestra de 120 consultas se generaron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes desde la propia interfaz. Esto no garantiza por sí solo un soporte semántico perfecto, pero sí introduce una capa de control clave: el abogado puede seguir el rastro documental, revisar las resoluciones y validar el fundamento jurídico antes de incorporar la respuesta a un escrito.

Todo ello se integra en un diseño de uso que, de nuevo, desplaza el foco hacia la responsabilidad profesional. Los términos de servicio de HAL9000 son explícitos: la herramienta es un apoyo basado en IA generativa que no sustituye el criterio del usuario, no toma decisiones jurídicas y no constituye asesoramiento jurídico autónomo. La consecuencia es clara: el abogado debe revisar y validar los resultados antes de utilizarlos, asumiendo la responsabilidad por las decisiones que adopte. Desde un punto de vista de gestión del riesgo, esta cláusula no es solo un aviso legal; es la plasmación contractual de un principio operativo: la última palabra la sigue teniendo el profesional humano, que actúa como filtro y garante de la calidad jurídica.

Este planteamiento también se refleja en el propio entrenamiento y ajuste del modelo. HAL9000 parte de un modelo base de alto nivel, pero incorpora un postentrenamiento interno orientado al razonamiento jurídico, entrenado para no inventar lo que no consta en el texto, para separar hechos, alegaciones, fundamentos y fallo, y para reconocer mejor sus propios límites. Frente a la tentación de convertir un modelo generalista en ‘abogado’ únicamente a golpe de instrucciones, aquí se opta por un ajuste más profundo orientado a reducir errores críticos y a aproximar el comportamiento del sistema al trabajo real del despacho. La operativa se completa con funcionalidades específicas para el ejercicio profesional: análisis de expedientes completos, anonimizaciones, transcripción local de vídeo, indexación de documentos y un grafo de relaciones que convierte contexto complejo en material jurídicamente utilizable.

Desde la óptica que plantea Forbes –«nuevos riesgos» para los abogados–, la combinación de estos elementos (infraestructura propia en España, ausencia de subcontratación con IA genérica, privacidad reforzada, trazabilidad exigente y énfasis en la supervisión humana) no elimina la responsabilidad, pero sí contribuye a gestionarla de forma más razonable. El profesional sigue siendo responsable del uso que hace de la herramienta, pero cuenta con un entorno que le permite demostrar diligencia: sabe dónde están los datos, puede mostrar las fuentes de las que parte su argumentación y dispone de un sistema diseñado para operar con prudencia, sin prometer infalibilidad.

En última instancia, la pregunta de Forbes –¿quién es responsable cuando la IA se ‘rebela’?– invita a abandonar la narrativa de la inteligencia artificial como agente autónomo y a recentrar el debate en la gobernanza: quién decide, quién controla, quién audita y quién revisa. En el ámbito jurídico, esto se traduce en una exigencia doble para los despachos: elegir herramientas alineadas con los estándares de privacidad y diligencia profesional, y mantener siempre una supervisión humana real sobre lo que la IA propone. Herramientas como HAL9000 no resuelven por sí mismas el debate de la responsabilidad, pero sí ayudan a que el uso de IA encaje mejor en el marco jurídico actual y en las expectativas de los clientes sobre confidencialidad, rigor y control.

Puedes consultar la noticia original de Forbes Colombia, «¿Quién es responsable cuando la IA se rebela? Los abogados ven nuevos riesgos», en su web: https://forbes.co