«La Unión Europea ha prohibido aplicaciones de la IA por presentar un riesgo inaceptable»

Conferencia en Palma de Ignasi Belda, director de la Agencia Española de Supervisión de la Inteligencia Artificial

Un momento de la intervención de Ignasi Belda, director de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA). | Alejandro Sepúlveda - ALEX SEPULVEDA

TW
0

Ignasi Belda, director general de la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA, dependendiente del Gobierno) ha ofrecido este viernes en Palma una conferencia en la que explicó la regulación europea de la Inteligencia Artificial (IA), «que presenta una categoría de aplicaciones prohibidas por su riesgo inaceptable. Estas aplicaciones son las manipulaciones subliminales por parte de organismos públicos o empresas; la explotación de vulnerabilidades, por ejemplo de menores; la policía predictiva, como por ejemplo las detenciones preventivas, vistas en alguna película futurista; el reconocimiento de emociones en centros de trabajo o educativos, y ser así juzgados por máquinas; el reconocimiento biométrico en espacios públicos y en tiempo real, lo que sólo podría ser autorizado por un juez; y la valoración de personas por parte de una máquina para acceder a funciones o servicios».

En este sentido, Belda ha recordado que «la regulación europea tiene como objetivo proteger al consumidor de posibles abusos en el uso de la IA. La normativa no valora la tecnología, pero determina en qué sectores se puede utilizar y clasifica las aplicaciones en función de su riesgo».

El reglamento se aprobó en agosto de 2024, pero tiene tres años para completar su despliegue. Las aplicaciones prohibidas ya están en vigor, mientras que las de alto riesgo lo harán en agosto de 2026.

Esas aplicaciones de alto riesgo, ha apuntado Belda, se refieren a «la incidencia en derechos fundamentales de los ciudadanos, como cuestiones médicas, medioambientales o de infraestructuras críticas. Estos usos de la IA no deben presentar sesgos y ser transparentes, explicables y trazables, además de no afectar a la propiedad intelectual».

Noticias relacionadas

Un tercer grupo sería el de las aplicaciones de riesgo medio, «que en cualquier caso deberán avisar al usuario de que está interactuando con una máquina. Para el cuarto y último grupo, las aplicaciones de bajo riesgo, que en realidad serían el 90-95 % del total, no se establece ninguna regulación», ha indicado el director de la AESIA.

Como reglamento de protección a los consumidores, éstos y los trabajos de investigación quedan fuera de su ámbito, que, como se ha descrito, abarca los organismos públicos y las empresas. Éstas disponen de un plazo de adaptación, siempre que su área de aplicación o comercialización sea la Unión Europea. Fuera de ella, el reglamento no les afecta y, en todo caso, quedarán sometidas a la legislación del país de sus usuarios o clientes.

Asimismo, el director de AESIA señaló que «la agencia tiene capacidad para sancionar, siempre con un ánimo disuasorio, no recaudador. Si los hechos son muy graves, las sanciones pueden llegar a ser muy altas, de millones de euros. El régimen sancionador entrará en vigor en agosto de este año y hasta entonces nos limitaremos a informar si observamos alguna irregularidad, pero las supervisiones ya están en marcha, y esta labor es estrictamente confidencial».

Belda anunció que habrá un registro europeo de las aplicaciones de alto riesgo de la IA y que ya se está trabajando en abordar el problema de la sostenibilidad de su uso: «De cara al consumo energético y de agua, hay que profundizar en los llamados algoritmos verdes», como método de programación que busca reducir el impacto ambiental de las aplicaciones informáticas, así como su uso para encontrar soluciones sostenibles.

Una actuación en la que España será pionera es la creación de los entornos regulados de pruebas, los llamados sandbox, donde las empresas podrán poner a prueba sus algoritmos. España creará próximamente un espacio público de sandbox, cuando el plazo europeo finaliza en agosto de 2026.

El apunte

Una jornada con diversos organizadores

Ignasi Belda ha intervenido como invitado de la Jornada sobre Regulació de la IA, organizada por el Institut d’Investigació en Intel·ligència Artificial (UIB), las fundaciones Bit e Illes Balears Europa y la Direcció General d’Innovació. La jornada fue presentada por Llorenç Valverde, director del Institut d’Intel·ligència Artificial.