¿Puede una IA ser responsable de un delito? Derecho penal, máquinas que deciden y límites humanos
La Real Academia Europea de Doctores plantea una cuestión incómoda: si la IA llega a tomar decisiones con impacto real en la vida de las personas, ¿dónde situamos la responsabilidad penal? Más allá del titular, el debate apunta a algo muy concreto para la abogacía: gobernanza, trazabilidad y control humano efectivo sobre las herramientas que usamos en el despacho.
Transparencia editorial: este artículo es un resumen y análisis elaborado con apoyo de herramientas de inteligencia artificial a partir de fuentes identificadas. Ha sido sometido a revisión y control editorial humano, pero puede contener errores y no constituye asesoramiento jurídico.
La Real Academia Europea de Doctores viene dedicando una parte relevante de sus actividades a los «Retos Vitales para una nueva era», y la inteligencia artificial ocupa un lugar destacado en esa agenda. En el X Encuentro Académico Internacional, la ponencia «Inteligencia artificial generativa: máquinas que deciden», a cargo de Jaume Antich, introduce de forma directa una pregunta que incomoda tanto a penalistas como a tecnólogos: «¿Puede ser la IA responsable de un delito?». El planteamiento no se limita a la especulación teórica, sino que apunta a la necesidad de revisar el Derecho Penal Internacional ante sistemas que, cada vez más, participan en decisiones con consecuencias jurídicas y materiales.
Cuando una institución como la RAED señala la urgencia de este debate, está evidenciando que ya no hablamos solo de sesgos en algoritmos de recomendación o de errores en asistentes virtuales. La cuestión es más profunda: si una IA generativa contribuye a configurar una decisión lesiva —por ejemplo, la selección discriminatoria de personas, la adopción de decisiones automatizadas con impacto relevante o la generación de contenidos que se integran en una estrategia ilícita—, ¿cómo distribuimos la responsabilidad entre desarrolladores, operadores, usuarios profesionales y, en su caso, las organizaciones que integran la tecnología en sus procesos? El consenso actual sigue siendo que la responsabilidad se proyecta sobre personas físicas o jurídicas, no sobre la «máquina», pero para que esta construcción siga siendo operativa es imprescindible que los sistemas estén diseñados de forma que permitan atribuir, reconstruir y revisar lo que ha ocurrido.
Para la abogacía, la pregunta de la RAED se traduce en otra muy práctica: ¿cómo debemos utilizar la IA para que la responsabilidad profesional siga estando clara? La respuesta pasa menos por imaginar una «personalidad penal» de la IA y más por exigir a las herramientas tres rasgos básicos: (i) que el profesional mantenga el control efectivo de la decisión; (ii) que exista trazabilidad suficiente de cómo se ha usado la herramienta (documentos, contexto, límites de la consulta); y (iii) que el flujo de datos sea compatible con el secreto profesional, la confidencialidad y la normativa de protección de datos. Si la IA se usa como apoyo razonado y revisado por el abogado, y no como sustituto acrítico del criterio jurídico, el eje de la responsabilidad sigue donde debe estar: en la persona que interpreta, valida y decide.
Este enfoque es precisamente el que adopta HAL9000.Legal. Según sus propios Términos del Servicio, se define expresamente como una herramienta de apoyo basada en IA que «no sustituye el criterio profesional ni constituye asesoramiento jurídico». El usuario asume la responsabilidad sobre el uso de los resultados y su adecuación al caso concreto, estando obligado a verificar y validar las respuestas antes de emplearlas en la práctica profesional. Es decir, el diseño contractual del servicio evita cualquier confusión sobre un hipotético «automatismo decisorio» y refuerza que la última palabra, también desde el punto de vista de la responsabilidad, corresponde al jurista.
Ahora bien, para que esta arquitectura de responsabilidad tenga sentido, es necesario que el propio sistema técnico acompañe. De acuerdo con la memoria técnica disponible, HAL9000.Legal se ejecuta en servidores propios de Abogacía Tecnológica o del propio despacho, ubicados en España, sin recurrir a APIs externas de proveedores generalistas de IA ni enviar las consultas o documentos a terceros. El modelo principal se basa en tecnología open‑source servida mediante un motor de inferencia configurado sin registro de prompts ni respuestas, y el flujo de adjuntos incorpora cifrado en reposo, eliminación física de archivos una vez indexados y mecanismos de purga por identificador. Además, la política de logs se limita a eventos técnicos mínimos, excluyendo contenidos sensibles. Todo ello responde a una lógica clara: máxima privacidad, control local del dato y reducción de superficies de riesgo jurídico y reputacional.
La trazabilidad y el control son, en este contexto, mucho más que argumentos comerciales: se convierten en piezas necesarias para gestionar el riesgo penal y disciplinario asociado al uso de IA. Un sistema que no envía la información del cliente a infraestructuras opacas, que no reutiliza los datos para entrenamiento externo y que opera bajo la jurisdicción española facilita al abogado justificar cómo ha protegido el secreto profesional y qué medidas técnicas y organizativas ha adoptado. A ello se suma un diseño del modelo orientado al razonamiento jurídico, entrenado para separar hechos, alegaciones, fundamentos y fallo, y para no inventar lo que no consta en el texto. Esta combinación de prudencia técnica y supervisión humana reduce el riesgo de errores graves que, en determinados contextos, podrían llegar a tener relevancia jurídica.
No obstante, incluso con estas cautelas, sigue siendo esencial adoptar pautas internas de uso responsable de la IA en los despachos: delimitar qué tareas se delegan (borradores, resúmenes, contrastes de citas), fijar procedimientos de revisión humana sistemática, documentar las fuentes utilizadas y establecer criterios de exclusión para ciertos asuntos especialmente sensibles. Integrar una herramienta como HAL9000.Legal en esa gobernanza interna permite aprovechar su capacidad de análisis y continuidad de contexto —incluida la valoración de la solidez jurídica de un asunto antes de litigar— sin diluir en ningún momento la autoría y responsabilidad del profesional. En definitiva, frente a las «máquinas que deciden» de las que habla la RAED, la apuesta razonable para la abogacía no es que la IA decida, sino que ayude a decidir mejor, bajo control humano y con infraestructuras que respeten de forma efectiva la confidencialidad.
La ponencia «Inteligencia artificial generativa: máquinas que deciden» y la referencia a «¿Puede ser la IA responsable de un delito?» pueden consultarse en la web de la Real Academia Europea de Doctores, dentro de la serie «Retos Vitales para una nueva era» y las noticias del X Encuentro Académico Internacional: https://raed.academy
Claves del artículo
- La RAED plantea que la irrupción de la IA generativa exige revisar el Derecho Penal Internacional, especialmente en lo relativo a la atribución de responsabilidad cuando intervienen sistemas automatizados.
- Para la práctica jurídica, la cuestión se traduce en asegurar que el abogado conserve el control efectivo sobre las decisiones y pueda reconstruir cómo y para qué ha utilizado una herramienta de IA.
- HAL9000.Legal se configura contractualmente como herramienta de apoyo que no presta asesoramiento jurídico ni sustituye el criterio profesional; el usuario debe verificar y validar las respuestas y asume la responsabilidad de su uso.
- La plataforma opera en servidores propios o del despacho, en España, sin APIs externas ni envío de datos a proveedores de IA genérica, y sin utilizar los datos de cliente para entrenamiento externo, lo que refuerza la confidencialidad y el secreto profesional.
- La arquitectura de privacidad de HAL9000 incluye cifrado en reposo, minimización de retención de documentos (eliminación física tras el embedding, con mecanismos de purga), y logs sin contenidos sensibles, orientados solo a eventos técnicos mínimos.
- Desde una óptica penal y deontológica, contar con una IA jurídica privada, trazable y bajo jurisdicción española facilita al profesional demostrar diligencia en la gestión del riesgo tecnológico y en la protección de la información del cliente.