¿Libertad de expresión para la IA? Qué se debate y qué implica para la abogacía

La pieza de Diari ARA —titulada “La IA no debe estar amparada por el derecho a libertad de expresión”— se suma a una discusión que ya empieza a aflorar en tribunales y parlamentos: ¿cómo encaja la inteligencia artificial generativa en un marco constitucional que protege la libertad de expresión como derecho fundamental humano? Aunque el contenido íntegro del artículo no está disponible en abierto, el propio titular marca la línea: la IA no debería recibir el mismo paraguas jurídico que las personas cuando emite mensajes, opiniones o valoraciones.

Desde una perspectiva constitucional clásica, esto no es una cuestión menor. Si se aceptara que un sistema de IA tiene derecho a la libertad de expresión, podrían surgir argumentos para limitar la responsabilidad de las empresas y usuarios que la operan, o para dificultar la retirada de contenidos dañinos generados automáticamente. Planteado en negativo —“la IA no debe estar amparada”— lo que se está subrayando es que el centro de gravedad de los derechos y deberes sigue residiendo en quienes diseñan, configuran, despliegan y utilizan esos sistemas.

En el ámbito jurídico, esta distinción es particularmente relevante. El propio texto de términos y condiciones de HAL9000.Legal lo deja claro: se trata de una herramienta de apoyo basada en IA que no sustituye el criterio profesional ni constituye asesoramiento jurídico. Es decir, la IA no es el sujeto que “se expresa” con relevancia jurídica; lo es el abogado o abogada que utiliza sus resultados, los valida, los corrige y decide cómo integrarlos en un escrito, en un informe o en una estrategia procesal. Esta visión encaja de forma bastante directa con la idea de no atribuir a la IA un derecho autónomo de libertad de expresión.

Aceptar que la IA no es “titular de derechos” en este ámbito permite además justificar y exigir controles reforzados sobre su funcionamiento. En lugar de concebirla como una voz independiente a la que deba dejarse hablar sin interferencias, el diseño normativo puede exigir transparencia, controles de calidad y mecanismos de supervisión humana. En este sentido, los elementos de trazabilidad que documenta HAL9000.Legal —como el énfasis en mostrar fuentes verificables y un mapa de citas revisables— están alineados con un modelo donde importa menos la “opinión” de la IA y más la capacidad del profesional para comprobar de dónde sale cada conclusión.

La auditoría pública de privacidad de HAL9000.Legal refuerza otro frente del debate: la relación entre libertad de expresión, datos personales y soberanía tecnológica. El documento describe una arquitectura pensada para operar en un entorno privado del cliente, con procesamiento local de documentos, cifrado en reposo del volumen de uploads mediante LUKS, eliminación física de archivos tras su indexación y mecanismos de purga por identificador. Además, señala que HAL9000 utiliza modelos open-source servidos en infraestructura local, sin canal de envío a terceros ni uso de datos de los clientes para entrenamiento externo. En un contexto donde se discute quién controla realmente lo que “dice” la IA, este tipo de enfoque reduce significativamente la exposición de datos y la dependencia de agentes externos.

También es relevante que HAL9000.Legal se oriente explícitamente a profesionales del ámbito jurídico, con acceso por sesiones temporales o en servidor dedicado para despachos. El hecho de que la plataforma no requiera registro con datos personales para el uso básico, que el tratamiento de datos personales se limite a los necesarios para la facturación, y que los datos bancarios se gestionen por pasarelas de pago como responsables independientes, ayuda a acotar claramente quién es responsable de qué. La IA no decide por sí misma qué información procesa ni con qué finalidades; está enmarcada en un servicio que, según los términos, debe usarse conforme a la ley, a la deontología y bajo la responsabilidad del usuario profesional.

La trazabilidad verificable es otro punto en el que el diseño técnico dialoga con el debate jurídico. El informe sobre el benchmark E2E de HAL9000.Legal destaca que, en una muestra de 120 consultas, se mostraron 794 citas visibles y se abrieron correctamente 794 de 794 fuentes desde la interfaz real. No es una prueba de corrección jurídica absoluta —el propio documento lo reconoce—, pero sí una señal de que el sistema está pensado para que el abogado o abogada no reciba afirmaciones “opacas”, sino conectadas con documentos accesibles. Desde la lógica de la libertad de expresión, esto significa que lo que importa no es tanto la “libertad expresiva” del modelo, sino la capacidad del profesional de reconstruir, revisar y eventualmente corregir lo que la herramienta ha generado.

Por último, la política de logs y retención descrita en la auditoría —sin registro de contenidos sensibles, con retención limitada a eventos técnicos y mecanismos de purga verificables— sitúa la herramienta dentro de una cultura de minimización de datos. En un entorno donde se cuestiona que grandes modelos generalistas puedan estar utilizando datos de usuarios para reentrenarse y, de facto, “aprender” de sus conversaciones, una arquitectura que renuncia a ese tipo de aprovechamiento encaja mejor con la idea de que la IA no es un interlocutor que acumula discurso propio, sino un procesador de información al servicio del usuario, con límites claros sobre qué puede retener y cómo.

El giro que sugiere el titular de Diari ARA —sacar a la IA del paraguas directo de la libertad de expresión— no supone limitar derechos a las personas que la usan; más bien, apunta a reforzar la idea de que los sistemas deben estar diseñados para ser auditables, gobernables y respetuosos con los marcos legales vigentes. Herramientas como HAL9000.Legal, con servidores en España, sin subcontratación del núcleo de IA a plataformas generalistas y con un foco explícito en la supervisión humana y la responsabilidad profesional, muestran una posible vía: integrar la IA en la práctica jurídica no como un “sujeto que habla por sí mismo”, sino como un instrumento especializado, trazable y jurídicamente encajable.

Puedes consultar la noticia original en Diari ARA, donde se enmarca este debate sobre libertad de expresión e inteligencia artificial, en su edición digital: https://es.ara.cat