Acuerdo provisional de la ley europea de inteligencia artificial: estas son las claves

Tras una negociación de más de 38 horas, el trílogo europeo comandado por la española Carme Artigas se saldó con un acuerdo provisional sobre la futura ley de inteligencia artificial, la AI Act.cuya entrada en vigor íntegra está prevista para 2026.

La AI Act. es un acuerdo político, que aún tiene que ser aterrizado a nivel técnico y cuyo borrador se hará público en breve. De momento, lo único que sabemos es que existen grandes diferencias respecto a la propuesta que la UE llevaba trabajando desde 2021 pero la UE mantiene su enfoque basado en el riesgo, tanto para la seguridad como para los derechos fundamentales de los ciudadanos.

Por ello, se ha hecho especial hincapié en las aplicaciones de inteligencia artificial que tantas diferencias han traído entre ambos organismos. El punto más crítico estaba relacionado con el tratamiento del reconocimiento facial y biométrico en tiempo real por parte de los gobiernos en los espacios públicos. De hecho, finalmente, se han acordado varias excepciones para el uso de sistemas de identificación biométrica en espacios públicos por lo que muchos casos estarán sujetos a autorización judicial previa.

Por ejemplo, la identificación biométrica "post-remota" se utilizará únicamente en la búsqueda dirigida de una persona condenada o sospechosa de haber cometido un delito grave. La identificación biométrica "en tiempo real" también tiene sus normas y, por ejemplo, su uso estará limitado en tiempo y lugar para fines específicos.

También se ha incluido en el acuerdo la prohibición de ciertas aplicaciones de IA que se consideran una amenaza para los derechos de los ciudadanos y la democracia. Estas incluyen sistemas de categorización biométrica que utilizan características sensibles, como creencias políticas, religiosas, filosóficas, orientación sexual o raza. Así mismo, se prohíbe la recopilación indiscriminada de imágenes faciales de internet o de cámaras CCTV para crear bases de datos de reconocimiento facial.

Además, se incluirá una evaluación obligatoria del impacto en los derechos fundamentales, entre otros requisitos, en la aplicación de IA en ciertos sectores como de seguros y banca. Así mismo, los ciudadanos tendrán derecho a presentar quejas sobre sistemas de IA y recibir explicaciones sobre decisiones basadas en sistemas de IA de alto riesgo que impacten en sus derechos.

Finalmente, si analizamos el impacto que tendrá esta norma en las tecnológicas, se espera que en cuanto el proyecto de normativa se traslade al lenguaje jurídico, los gigantes de la IA deberán acomodarse a las normas europeas.