II Jornadas de Derecho e IA en la Universidad Isabel I. De izqda a dcha: Ester Renedo Santamaría, Nuria Puentes Ruiz, Marina Martín Moro, José Manuel López Jiménez, Virginia Saldaña Ortega y Ana Vicario Pérez.
20 de noviembre de 2024. La II Jornada sobre Derecho e Inteligencia Artificial de la Universidad Isabel I han reunido a un grupo de expertos para analizar los desafíos y oportunidades del nuevo Reglamento Europeo sobre IA en ámbitos como el derecho, la administración pública y las relaciones internacionales. La sesión, organizada en formato híbrido, ha reunido a expertos juristas y economistas que disertaron sobre cuestiones como la implementación de esta normativa europea hasta su influencia en sectores como la abogacía, los contratos inteligentes, la administración pública y las relaciones internacionales.
Una jornada de análisis multidisciplinario
El decano de la Facultad de Ciencias Jurídicas y Económicas, José Manuel López Jiménez, inauguró el evento citando al visionario John Hawkins para destacar la relevancia de la IA en el mundo actual y su ineludible incidencia en el Derecho. Señaló que la legislación debe ser flexible para garantizar un uso seguro de la IA, adaptándose a los riesgos que su mal uso podría generar. Los estados miembros deben igualmente ajustar sus legislaciones a esta nueva realidad, para aplicar de manera segura esta nueva tecnología.
Ester Renedo, coordinadora del Grado en Derecho, moderó la jornada introduciendo una definición de la IA y su relación con el derecho civil, penal y económico.
El Reglamento Europeo sobre IA
Por su parte, Virginia Saldaña Ortega, directora del Grado en Derecho de la Unión Europea en la Universidad Isabel I, destacó los retos que supone el Reglamento Europeo de IA, basado en el riesgo. Subrayó que esta normativa clasifica las aplicaciones de la IA en: inaceptables, de alto riesgo y de riesgo limitado, marcando obligaciones claras y sanciones por su incumplimiento. Igualmente incidió en la importancia de que los estados apliquen la normativa en sus respectivos países, matizando que esta normativa interfiere con principios europeos como la transparencia o la igualdad.
Ana Vicario Pérez, ayudante doctora de Derecho Procesal en la Universidad de Burgos, ofreció una detallada presentación sobre la atribución de responsabilidades legales por delitos cometidos mediante sistemas de Inteligencia Artificial (IA) en el ámbito empresarial. Durante su intervención, disertó sobre la atribución de responsabilidades a las empresas por el uso de la inteligencia artificial. La profesora Vicario enfatizó la importancia de identificar al responsable final, recordando que detrás de cada sistema de IA siempre hay una persona física o jurídica que toma decisiones y debe rendir cuentas. Esta reflexión subraya el desafío de adaptar los marcos legales para garantizar que el avance de la IA esté acompañado de medidas de control que salvaguarden los derechos fundamentales y limiten los riesgos inherentes a esta tecnología.
En el ámbito internacional, Nuria Puentes Ruiz, profesora de Derecho de la UE en la Universidad Isabel I, señaló cómo la IA puede intensificar la brecha entre el norte y el sur global, subrayando la necesidad de un marco regulatorio global que equilibre sus ventajas y desventajas. El problema que plantea la profesora Puentes es la capacidad de adaptación que tiene la IA respecto a las personas, porque tiene acceso a un mayor número de datos que el ser humano. Esta situación puede generar ventajas del norte o desventajas del sur global, y proporcionar "una gran brecha entre ambos bloques, en sectores, como el acceso a recursos de las empresas", subrayó. Y a nivel global, debería generarse un marco regulativo internacional, para definir los límites de la IA.
Los smart contracts
La profesora Marina Martín Moro, experta en Derecho Civil, abordó la integración de la IA en los contratos inteligentes o smart contracts. Explicó que, aunque esta tecnología automatiza procesos y mejora la eficiencia, plantea desafíos como los errores en el código, riesgos de seguridad y vacíos legales en su regulación. “Presentan grandes desafíos como tener errores en el código siendo complejo poder revertirlos o tienen un alto riesgo de ser hackeados. Otra indicación negativa es que se constituyen en bloques y se necesita de especialistas para su modificación", destacó. Igualmente, existe una incertidumbre legal sobre su marco normativo porque todavía no tiene una regulación concreta. El algoritmo que utiliza los datos personales en este tipo de contratos debe ceñirse a la legislación que existe en materia de protección.
IA y abogacía
Cristina Lorente López, directora del Máster en Ejercicio de la Abogacía y la Procura, exploró los retos éticos de la IA en el ejercicio legal. La profesora Lorente indicó que hay una inteligencia artificial estrecha y específica, una general con capacidad cognitiva (chat GPT) y una superinteligencia artificial (ASI), que en el futuro superará al conocimiento humano. La aplicación del reglamento europeo será paulatina en los distintos estados de la UE. En su aplicación en la abogacía y la procura, el abogado cuenta con bases de datos jurídicas para facilitar la labor de elaboración de demandas a partir de los años 90; y la fase de la IA generativa, que ya se aplica en los despachos como una realidad en el sector jurídico. La docente propuso medidas para que los abogados gestionen responsablemente las herramientas de IA, asegurando la protección de datos de los clientes y adaptando el código deontológico a estos avances.
Jornada celebrada en el auditorio de la Universidad Isabel I.
La futura ley de IA en el sector público
Desde la Universidad de Barcelona, Noelia Betetos Agrelo, especialista en Derecho Administrativo, reflexionó sobre la falta de un marco normativo definido para la IA en el sector público. Destacó la necesidad de principios vinculantes, flexibles y adaptables para evitar la obsolescencia y proteger los derechos ciudadanos frente a desarrolladores privados. La profesora Betetos indicó la importancia de aplicar los metaprincipios en las administraciones públicas a efectos de contratación o de su uso efectivo para respetar las garantías a los ciudadanos. Igualmente, habló de los principios sistémicos, como el servicio efectivo al bienestar humano y la sostenibilidad ambiental la personalización y proactividad en el ámbito público); y los principios intersistémicos, que afectan a las relaciones entre las administraciones públicas y la IA con la colaboración cercana con el sector privado o la sociedad, para que se respete su uso para evitar sesgos o actuaciones irregulares.
Los sesgos algorítmicos
El profesor José Luis Bustelo García, docente del Máster en Asesoría Jurídica de Empresas y el Grado en ADE en la Universidad Isabel I, cerró la jornada con una reflexión sobre el sesgo algorítmico en sistemas de reconocimiento facial. Alertó sobre los riesgos de replicar desigualdades existentes, especialmente en temas críticos como la justicia y la seguridad, e introdujo la preocupación por el desarrollo de una superinteligencia artificial (ASI) que podría superar las capacidades humanas.
El sesgo algorítmico se ocupa de replicar algunos sesgos que ya se aplican en la actualidad, donde se producen errores al identificar, por ejemplo, a mujeres con piel oscura en los sistemas de identificación. Esta situación puede llevar a cometer errores y detener a personas de minorías étnicas por este sesgo, ya que afecta a cuestiones de seguridad. La IA generativa habla ya de la ASI, la superinteligencia artificial, que superará las capacidades humanas, que vendrá después de la contextual y la modal y se aplicarán en los próximos años. La ASI podrá decidir por sí misma cuestiones que afectan a los humanos. Actualmente estamos en la IA autónoma y proactiva, pero con la ASI, colapsará el modelo con el derecho.
La jornada concluyó con una apelación a equilibrar el desarrollo de la IA con una regulación efectiva que proteja derechos fundamentales. Los expertos coincidieron en que este desafío requiere una cooperación internacional sólida y una preparación multidisciplinaria para afrontar el impacto de esta revolucionaria tecnología.
Sigue la jornada completa en el siguiente enlace.
Consulta la I Jornada sobre Derecho e Inteligencia Artificial de la Universidad Isabel I en el siguiente enlace.