Cuando la IA también potencia el delito: controles, límites y lecciones para el Derecho

El titular de IPS, «La inteligencia artificial facilita la expansión del crimen», condensa una inquietud que el propio medio refuerza en su portada: entre las referencias editoriales aparece claramente la advertencia de que «los controles actuales no bastan para frenar a los agentes de IA». Aunque la pieza completa no está disponible en abierto en el momento de redactar esta entrada, el encuadre general es reconocible: la IA, en especial cuando se materializa en sistemas autónomos o semiautónomos, puede abaratar, escalar y sofisticar actividades delictivas, y lo hace en un contexto en el que las capacidades técnicas y regulatorias para supervisarla aún son incipientes. Desde el punto de vista jurídico, esto tiene implicaciones directas sobre la diligencia exigible a quienes diseñan, despliegan o utilizan estos sistemas, y anticipa litigios en torno a responsabilidad, prueba y estándares de seguridad razonables.

Para los profesionales del Derecho, la cuestión no es únicamente cómo perseguir el delito facilitado por IA, sino cómo usar la IA sin convertirse involuntariamente en un eslabón débil de la cadena de riesgo. Herramientas aparentemente inocuas pueden convertirse en vectores de fuga de información cuando dependen de infraestructuras externas, registran de forma opaca los contenidos tratados o reutilizan datos para entrenamientos posteriores sin un control claro. En el trabajo diario de un despacho —y con mayor motivo en el de un órgano judicial— los expedientes incluyen datos personales, información empresarial sensible y, en muchos casos, secretos profesionales. La frontera entre “usar IA” y “externalizar el expediente” puede cruzarse sin que el usuario lo perciba con nitidez si la tecnología se apoya en proveedores generalistas cuya lógica interna no controlamos.

El enfoque de HAL9000 parte justamente de esa preocupación. La plataforma se ha diseñado como una IA jurídica privada para despachos, con servidores en España y sin cesión operativa de las consultas a plataformas generalistas. La auditoría interna de privacidad publicada por Abogacía Tecnológica describe una arquitectura en la que la interfaz web y los servicios de OCR, embeddings, búsqueda y transcripción se ejecutan dentro de un entorno controlado, con cifrado en reposo del volumen de subidas y eliminación física de los archivos una vez indexados. No se registran en los logs los contenidos sensibles (prompts, documentos o transcripciones), limitando la retención a eventos técnicos mínimos necesarios para el mantenimiento, gobernados por mecanismos de caducidad y purga. Esta combinación de minimización de datos y control local reduce de forma significativa el riesgo de que un acceso legítimo a la IA acabe generando una superficie adicional para el crimen o para fugas masivas de información.

La seguridad técnica, por sí sola, no basta. También importa qué modelo de IA se orquesta y con qué límites funcionales. Según la propia documentación pública, HAL9000 utiliza modelos open‑source servidos en infraestructura local, sin canal de envío a terceros ni uso de los datos del cliente para entrenamiento externo. A diferencia de la tendencia a “envolver” modelos generalistas cerrados con prompts jurídicos, aquí se ha optado por un post‑entrenamiento interno orientado al razonamiento jurídico, con énfasis en no inventar lo que no consta en el texto, separar hechos, alegaciones, fundamentos y fallo, y reconocer sus propios límites. Este diseño no elimina por completo la posibilidad de error —ningún sistema lo hace—, pero sí tiende a reducir conductas imprevisibles propias de IAs generalistas conectadas a contextos parciales o ambiguos. Desde la perspectiva de compliance, esto facilita justificar por qué se eligió una solución concreta y qué medidas se adoptaron para evitar que la herramienta se convierta en un agente incontrolado.

La trazabilidad es otro elemento clave cuando se habla de crimen facilitado por IA y de controles insuficientes. HAL9000 no se limita a devolver respuestas textuales, sino que ofrece citas verificables, un mapa de fuentes y un índice de entidades, permitiendo seguir el fundamento jurídico de cada salida y abrir las referencias documentales desde la propia interfaz. En una muestra interna de 120 consultas, la plataforma registró 794 citas visibles y 794 de 794 fuentes abiertas correctamente desde el frontend real. Esta trazabilidad verificable no garantiza por sí sola la corrección sustantiva de cada razonamiento, pero sí introduce una pista de auditoría que dificulta que afirmaciones sin respaldo circulen como “hechos” dentro del flujo de trabajo del despacho. En términos de riesgo penal o disciplinario, poder demostrar qué documentación sustentaba una decisión y cómo se revisó resulta cada vez más relevante en un ecosistema donde los algoritmos pueden cometer errores difíciles de reconstruir a posteriori.

En el plano jurídico‑institucional, la cuestión de quién puede usar la IA y para qué se vuelve especialmente delicada cuando entran en juego jueces y magistrados. Los Términos y Condiciones de HAL9000 son explícitos: la plataforma es una herramienta de apoyo para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia, y elaboración y revisión de documentación. No sustituye el criterio profesional ni constituye asesoramiento jurídico autónomo. En lo que respecta a la Administración de Justicia, el eventual uso por jueces, magistrados u otros profesionales queda limitado —dentro de la finalidad prevista del sistema— a tareas auxiliares o preparatorias (búsqueda documental, organización de información, anonimizaciones, etc.), siempre que no analicen ni evalúen pruebas, no interpreten ni apliquen el Derecho a un conjunto concreto de hechos, no formulen recomendaciones sobre el caso y no influyan materialmente en el resultado de una decisión. Esa autolimitación contractual es relevante: fija expectativas, acota el riesgo de que la IA se convierta de facto en un “co‑decisor” y encaja mejor con los principios de independencia judicial y de prohibición de delegar el juicio en sistemas automatizados.

Finalmente, la noticia de IPS recuerda que la respuesta a la expansión del crimen ligado a la IA no puede consistir solo en prohibiciones abstractas. Hace falta un ecosistema de soluciones que incorporen la privacidad y la trazabilidad desde el diseño, que se ejecuten en infraestructuras sometidas a las jurisdicciones en las que trabajan los profesionales y que mantengan al humano —abogado, procurador, magistrado, letrado de la Administración de Justicia— en el centro de la decisión. HAL9000 es un ejemplo de cómo se puede intentar operar en esa dirección: no como un atajo para automatizar el razonamiento jurídico, sino como una herramienta especializada, privada y auditable, diseñada para integrarse en el trabajo real de los despachos sin diluir sus obligaciones de secreto profesional, diligencia y supervisión. En última instancia, si la IA facilita la expansión del crimen, también debe obligarnos a elevar el estándar de cómo, dónde y bajo qué condiciones aceptamos usarla en el propio sistema de justicia.

Puedes consultar el tratamiento periodístico original de este tema en IPS Agencia de Noticias, en su portada de actualidad internacional: https://ipsnoticias.net