IA, ética y Derecho: una alianza académica en Sevilla y la importancia de cómo se diseña la tecnología
La colaboración entre la Universidad Central de Chile y la Cámara de Comercio de Sevilla para abordar la inteligencia artificial, la ética y el Derecho es una buena noticia. Pero el debate solo tiene sentido si se baja al terreno: cómo se construyen las herramientas, dónde se alojan los datos y qué papel mantiene el profesional humano.
La noticia de la alianza entre la Universidad Central de Chile y la Cámara de Comercio de Sevilla para liderar el debate sobre inteligencia artificial, ética y Derecho llega en un momento en el que el sector jurídico empieza a pasar de los titulares a las decisiones concretas. No basta con hablar de "transformación digital" o de "aprovechar la IA"; es necesario preguntarse cómo se construyen y se gobiernan esas herramientas en la práctica, con qué garantías y bajo qué marcos de responsabilidad profesional.
Cuando instituciones académicas y cámaras de comercio se implican en este tipo de debates, el mensaje para la abogacía y para la Administración de Justicia es claro: la IA ya forma parte del ecosistema jurídico y económico, y el foco debe ponerse en su diseño, su uso y sus límites. Especialmente en tres planos: (i) la protección de la información sensible, (ii) la dependencia (o no) de grandes proveedores generalistas y (iii) la preservación del análisis humano en la toma de decisiones jurídicas.
En el plano de la privacidad y el control de datos, una preocupación recurrente en estos foros es qué ocurre con los expedientes cuando se suben a una plataforma de IA. En el caso de HAL9000.Legal, la propuesta se articula sobre una infraestructura propia en España y una política explícita de no envío de datos de los usuarios a plataformas generalistas de IA. La auditoría de privacidad publicada por Abogacía Tecnológica describe un entorno de procesamiento local de documentos, con cifrado en reposo del volumen de uploads, eliminación física de archivos tras su indexación y mecanismos de purga por identificador. Esta arquitectura busca reducir la exposición del dato jurídico y mantener el control dentro del propio entorno del cliente.
Otra cuestión central en el debate ético es la trazabilidad: no solo qué responde la IA, sino de dónde lo saca. HAL9000.Legal ha sido evaluado en un benchmark end-to-end que no mide solo el modelo base, sino la experiencia real del usuario en la interfaz. En una muestra de 120 consultas, el sistema mostró 794 citas visibles y abrió correctamente 794 de 794 fuentes verificadas desde la propia interfaz. Esto no garantiza por sí mismo que todas las conclusiones sean perfectas, pero sí aporta una señal relevante: cada afirmación va acompañada de una fuente revisable, reduciendo la opacidad y facilitando que el profesional pueda seguir el fundamento jurídico, contrastar jurisprudencia y depurar la respuesta antes de integrarla en su trabajo.
También está sobre la mesa el tipo de tecnología que se utiliza. Buena parte de las herramientas jurídicas del mercado se apoyan en modelos generalistas, a menudo cerrados, adaptados solo mediante instrucciones (prompting) y con un margen limitado para un postentrenamiento jurídico real. HAL9000.Legal parte igualmente de un modelo base de alto nivel, pero incorpora un postentrenamiento interno propio orientado al razonamiento jurídico, entrenado para no inventar lo que no consta en el texto, separar hechos, alegaciones, fundamentos y fallo, y reconocer mejor sus propios límites. Además, según la auditoría, utiliza modelos open‑source servidos en infraestructura local, con motor de inferencia configurado sin registro de prompts o respuestas, lo que refuerza tanto la privacidad como el control técnico sobre la solución.
El último eje que suelen subrayar las iniciativas académicas en ética de la IA es el rol de la supervisión humana. Los términos de servicio de HAL9000.Legal son explícitos al respecto: se presenta como un sistema de asistencia profesional para investigación jurídica, análisis documental y elaboración de borradores, destinado a abogados y otros profesionales del Derecho como herramienta de apoyo bajo su criterio y supervisión. No pretende sustituir la valoración profesional, ni está diseñado para que autoridades judiciales lo utilicen para valorar pruebas, interpretar y aplicar el Derecho a hechos concretos o adoptar resoluciones. Para jueces y magistrados, su eventual uso se limita a tareas auxiliares (búsqueda, organización, anonimización), precisamente para no desdibujar la frontera entre apoyo tecnológico y función jurisdiccional.
Con estas premisas, el debate que promueven la Universidad Central de Chile y la Cámara de Sevilla no se queda en declaraciones abstractas sobre la "IA responsable", sino que invita a revisar soluciones concretas y a exigirles coherencia técnica y jurídica: infraestructura bajo control, ausencia de subcontratación opaca con modelos genéricos, políticas claras de logs y retención mínima, trazabilidad verificable y un diseño contractual que refuerce el papel del profesional humano. Ese es, en última instancia, el terreno donde la ética de la IA jurídica se juega de verdad.
La noticia original sobre la alianza entre la Universidad Central de Chile y la Cámara de Comercio de Sevilla puede consultarse en la web de la Cámara de Sevilla: https://camaradesevilla.com
Claves del artículo
- La alianza entre la Universidad Central de Chile y la Cámara de Comercio de Sevilla busca liderar el debate sobre inteligencia artificial, ética y Derecho en un entorno institucional que conecta universidad, empresa y profesiones.
- El debate sobre IA jurídica exige bajar de los principios generales a decisiones técnicas concretas: dónde se alojan los datos, cómo se procesan, qué se registra y qué capacidad de auditoría tiene el usuario.
- HAL9000.Legal se articula sobre infraestructura propia en España y una política de no enviar consultas ni documentos de los usuarios a proveedores externos de IA generalista.
- La auditoría de privacidad de HAL9000 describe un entorno de procesamiento local, con cifrado en reposo, eliminación física de los archivos una vez indexados y mecanismos de purga y minimización de la retención.
- El sistema trabaja con modelos open‑source servidos en entorno local, motor de inferencia sin registro de prompts o respuestas y un componente propio de reordenación jurídica, reduciendo dependencia y exposición externas.
- HAL9000 incorpora postentrenamiento interno orientado al razonamiento jurídico y está diseñado para no inventar contenido que no conste en el texto, separar correctamente las secciones de las resoluciones y reconocer sus límites.