IA, menores y daño reputacional: lo que no podemos seguir ignorando
Las denuncias sobre el uso de IA para generar y difundir imágenes sexualizadas de menores recuerdan que la tecnología no es neutra: amplifica tanto riesgos como garantías. Desde el Derecho, la respuesta pasa por combinar prevención penal, educación digital y herramientas de IA diseñadas con privacidad y trazabilidad reales.
La información publicada por Diario Córdoba, bajo el título «Un abogado de menores en Córdoba alerta del uso de la IA: "La práctica es, a través de la IA, ponerlas desnudas y lanzarlas a las redes sociales"», describe una realidad que muchos profesionales que trabajan con menores ya percibían de forma fragmentaria: la IA ha reducido barreras técnicas y de coste para generar contenidos sexualizados falsos, pero el impacto sigue recayendo sobre las mismas víctimas de siempre. La combinación de modelos de imagen accesibles, plataformas de redes sociales y un contexto de banalización del daño digital hace que la violencia contra menores adopte nuevas formas, difíciles de detectar a primera vista y muy invasivas en términos de intimidad y reputación.
Desde el punto de vista jurídico, esto no es solo un “nuevo delito de moda”, sino un reto transversal: tipificación penal, persecución efectiva, asistencia a la víctima, retirada de contenidos y, en último término, reparación. Al mismo tiempo, obliga a la abogacía y a la judicatura a revisar con qué herramientas trabajan cuando manejan datos extremadamente sensibles —imágenes íntimas, historiales médicos, expedientes de menores— y qué garantías exigen a las soluciones de IA que incorporan a su práctica. No basta con prohibir ciertos usos; es necesario asegurar que, en la trastienda tecnológica de los despachos, no se reproducen los mismos problemas de opacidad y circulación incontrolada de datos que alimentan los riesgos que se denuncian.
En este contexto, la forma en que se concibe y despliega la IA jurídica marca la diferencia. HAL9000 se ha diseñado como una IA jurídica privada para despachos y profesionales del Derecho, con infraestructura propia en España y sin envío de los expedientes a plataformas generalistas. De acuerdo con la documentación pública de AbogaTIC, el sistema se apoya en políticas de cero retención de contenidos en logs, cifrado en reposo del volumen de documentos y eliminación física de archivos tras su indexación, así como en una ejecución íntegramente dentro del entorno del cliente cuando se despliega en modo local. No se ceden consultas ni adjuntos a proveedores externos de IA para entrenamiento, lo que reduce el riesgo de que un expediente sensible termine, directa o indirectamente, reinyectado en servicios generalistas sobre los que el profesional no tiene control.
Otro elemento relevante cuando se compara con IA generalista es la trazabilidad. Según la auditoría de privacidad y el propio benchmark de uso, HAL9000 trabaja con fuentes revisables y un mapa de citas visibles que permite al abogado seguir el fundamento jurídico de cada respuesta: en un conjunto de 120 consultas se mostraron 794 citas y se abrió correctamente la totalidad desde la interfaz. Aunque la trazabilidad no garantiza por sí sola la corrección jurídica, sí acota el espacio para que la herramienta «invente» doctrina o artículos inexistentes y, sobre todo, facilita al profesional la verificación crítica: puede ver qué sentencia o precepto respalda una afirmación y hasta qué punto es aplicable al asunto concreto.
Junto a la privacidad y la trazabilidad, la finalidad de uso y la supervisión humana son determinantes. Los términos de uso de HAL9000 insisten en que se trata de una herramienta de apoyo a la investigación jurídica, a la recuperación y análisis de documentación, y a la elaboración y revisión de escritos, destinada a profesionales del Derecho y sometida siempre a su criterio. No está concebida para sustituir decisiones ni para que jueces y magistrados la utilicen para valorar pruebas o resolver casos de forma autónoma. En un terreno tan delicado como el de los menores y la violencia digital, este marco es importante: la IA ayuda a ordenar expedientes, localizar jurisprudencia, transcribir declaraciones o anonimizar documentación, pero la valoración del daño, la calificación jurídica y la estrategia de protección siguen siendo responsabilidad humana.
Mirando hacia adelante, el caso que traslada el abogado de menores de Córdoba debería servir también para una reflexión interna en la profesión: si denunciamos —con razón— el uso irresponsable de la IA para vulnerar derechos fundamentales de menores, debemos ser igual de exigentes con la arquitectura tecnológica que utilizamos para defenderlos. Elegir soluciones que prioricen servidores propios en España o entornos locales, que no externalicen sistemáticamente nuestros expedientes a modelos de propósito general y que ofrezcan trazabilidad suficiente de las fuentes no es un detalle técnico menor, sino una forma de coherencia con las obligaciones de confidencialidad, diligencia y protección de datos que ya asumimos como juristas.
La información de partida puede consultarse en la fuente original.
Claves del artículo
- El uso de IA para generar y difundir imágenes sexualizadas falsas de menores agrava la violencia digital y plantea desafíos penales, probatorios y de reparación.
- La respuesta jurídica exige no solo castigar estas conductas, sino revisar cómo se manejan en la práctica datos especialmente sensibles dentro de despachos y juzgados.
- Modelos generalistas de IA, con poca visibilidad sobre dónde se procesan y cómo se retienen los datos, son difícilmente compatibles con expedientes de menores y víctimas.
- HAL9000 se plantea como una IA jurídica privada, con infraestructura propia en España, políticas de cero retención en logs de contenido y sin envío de datos a proveedores externos de IA para entrenamiento.
- La trazabilidad mediante citas visibles y fuentes verificables reduce la opacidad y facilita que el profesional contraste la información antes de integrarla en un asunto real.
- El sistema está diseñado como herramienta de apoyo y no como sustituto del criterio profesional, algo particularmente relevante en asuntos de menores, donde la supervisión humana es irrenunciable.