Falsos abogados creados con IA: por qué la supervisión humana y la trazabilidad importan

En la pieza de Agur Fakes publicada por Tele7 se advierte de un fenómeno inquietante: perfiles y vídeos en redes sociales donde figuras generadas mediante inteligencia artificial se presentan como abogados especializados en extranjería. No estamos ante chatbots claramente identificados, sino ante avatares que imitan gestos, tono y discurso de un profesional humano, con promesas de soluciones rápidas y económicas para trámites complejos. Este tipo de contenido se dirige, además, a colectivos con dificultades idiomáticas, desconocimiento del sistema jurídico y alto grado de vulnerabilidad, lo que multiplica el potencial de daño cuando el mensaje no está respaldado por una persona colegiada y responsable.

La confusión se agrava porque la puesta en escena es cada vez más sofisticada: nombres comerciales verosímiles, supuestos despachos detrás del perfil, referencias vagas a “expertos” y un lenguaje jurídico reconocible. Sin embargo, detrás de la fachada puede no haber ni rastro de colegiación, de responsabilidad profesional ni de posibilidad real de reclamar. La IA generativa se utiliza, en estos casos, no como herramienta interna de apoyo al trabajo jurídico, sino como mascarada de autoridad para captar datos y dinero. La víctima cree estar ante un abogado; en realidad, está ante un montaje automatizado concebido para operar en la frontera de lo ilícito.

Este escenario obliga a separar dos planos que a menudo se mezclan en el debate público. Uno es el de la suplantación y el fraude: cuando se utilizan voces sintéticas, vídeos generados o textos automatizados para fingir la existencia de un profesional del Derecho que en realidad no responde de nada. El otro es el de la IA jurídica responsable: soluciones diseñadas para ser utilizadas por abogados, despachos y otros operadores jurídicos como apoyo en la investigación, la organización de expedientes o la redacción de documentos, siempre bajo su criterio y supervisión. En el primer caso, la IA borra el profesional; en el segundo, lo refuerza y libera tiempo para tareas de mayor valor añadido.

HAL9000 se sitúa expresamente en este segundo plano. Según la documentación pública de Abogacía Tecnológica, se trata de una IA jurídica privada orientada a profesionales del Derecho, que opera en servidores propios en España y que no envía las consultas ni los documentos del usuario a plataformas generalistas de IA ni a terceros proveedores para su tratamiento o entrenamiento. Esta arquitectura con infraestructura propia busca reducir la dependencia externa, el ruido y, sobre todo, la exposición del dato jurídico, algo especialmente relevante cuando se trabaja con expedientes sensibles, resoluciones o informes que contienen información confidencial.

Los términos de servicio de HAL9000 insisten, además, en la naturaleza auxiliar de la herramienta. La plataforma se concibe como un sistema de asistencia profesional para investigación jurídica, recuperación y análisis documental, consulta de legislación y jurisprudencia y elaboración o revisión de documentación. No constituye asesoramiento jurídico autónomo ni sustituye el criterio del profesional. De hecho, Abogacía Tecnológica exige que el usuario revise y valide los resultados antes de utilizarlos. En el ámbito judicial, los propios términos acotan su finalidad prevista a tareas preparatorias —búsqueda documental, organización, anonimización—, excluyendo que se utilice para valorar pruebas, interpretar y aplicar el Derecho a hechos concretos o influir materialmente en el resultado de una resolución.

Frente a la opacidad típica de los contenidos engañosos en redes, HAL9000 incorpora la trazabilidad como elemento central. La plataforma trabaja con fuentes revisables y proporciona citas verificables, un mapa de fuentes y un índice de entidades, de forma que el profesional pueda seguir el fundamento jurídico de la respuesta, identificar a los protagonistas del expediente y revisar la documentación original. Un ejercicio de evaluación interna —en una muestra de 120 consultas con 794 citas visibles— mostró que todas las fuentes se abrieron correctamente desde la propia interfaz. Ese tipo de trazabilidad verificable no garantiza por sí sola la perfección semántica, pero sí aporta una señal relevante de robustez documental: la afirmación no llega “desnuda”, sino acompañada de la fuente que el abogado puede inspeccionar.

Otra diferencia crucial con las soluciones genéricas que alimentan muchos de los montajes vistos en redes es el modelo de entrenamiento y operación. Según su auditoría pública de privacidad, HAL9000 se apoya en modelos open‑source servidos en infraestructura local, ejecutados íntegramente en el entorno del cliente cuando se despliega en esa modalidad. No existe un canal de envío de documentos o consultas a terceros para entrenamiento externo, y los elementos de la arquitectura —cifrado en reposo mediante LUKS, eliminación física de archivos una vez indexados, mecanismos de purga por identificador y políticas de logs que excluyen contenidos sensibles— apuntan a una estrategia de minimización y control del dato jurídico. Esto contrasta con los escenarios en los que una “IA que parece abogado” en redes se alimenta sin transparencia de plataformas masivas, sin garantías sobre dónde acaban los datos de quienes contactan con ella.

Desde la óptica profesional, quizá la frontera más relevante no es tanto tecnológica como organizativa: quién es el usuario y qué rol se le asigna a la IA. HAL9000 está pensada para ser operada por abogados y otros profesionales del Derecho, dentro de un despacho o de una organización, con credenciales personales, sesiones de trabajo acotadas en el tiempo y sin necesidad de registrar datos personales más allá de los imprescindibles para la facturación. Sobre esa base, el sistema se pone “debajo” del profesional, no delante de él: analiza documentos, sugiere estructuras, ayuda a filtrar jurisprudencia, pero siempre dentro de un hilo de trabajo que el jurista revisa y en el que conserva la responsabilidad última.

El contraste con los falsos abogados de redes sociales es, en este punto, evidente. En los montajes denunciados por Agur Fakes no hay transparencia sobre el responsable, no se informa de la colegiación, no se advierte de que se trata de un contenido automatizado ni se ofrece un marco de términos de uso que delimite la finalidad del sistema. Al contrario, se explota deliberadamente la confusión: se presenta a la IA como si fuera un profesional que “atiende” al cliente. Para la ciudadanía, y especialmente para las personas extranjeras sin referencias previas del sistema legal, se difumina la diferencia entre contar con un abogado que utilizará, si lo estima oportuno, una herramienta de IA en su despacho y, por el contrario, confiar datos y expectativas a un avatar sin existencia jurídica ni responsabilidad identificable.

En este contexto, la respuesta responsable desde la abogacía no pasa por renunciar a la IA, sino por exigir que las herramientas se diseñen y utilicen con cuatro criterios básicos: privacidad, control de la infraestructura, trazabilidad y supervisión humana efectiva. Soluciones como HAL9000, con servidores en España, sin subcontratación operativa a IA genéricas, con auditoría de privacidad pública y con una finalidad prevista que excluye suplantar el juicio profesional, apuntan hacia ese modelo. Al mismo tiempo, la profesión deberá seguir reforzando la educación digital de los ciudadanos, explicando que la IA puede ser un aliado cuando está bajo control del abogado, pero que ningún vídeo en redes, por verosímil que parezca, convierte a un avatar en abogado ni sustituye la protección que ofrece un profesional real.

Para quienes quieran profundizar en la noticia que ha motivado esta reflexión, la información sobre los falsos abogados creados con IA que ofrecen servicios de extranjería en redes sociales puede consultarse en Tele7, dentro de la sección Agur Fakes, disponible en https://tele7.tv.