Què he de saber de la llei de AI de la Unió Europea? (Part 2)

Ja et vam explicar en l’anterior article sobre la llei d’Intel·ligència Artificial (IA) de la Unió Europea (UE), la primera al món que regula aquesta tecnologia) que estableix una classificació de sistemes basada en el nivell de risc que poden suposar per als drets i llibertats de la ciutadania. Aquesta classificació és crucial per determinar les obligacions que han de complir els desenvolupadors i usuaris de la IA. Per tant, si la manera com el reglament cataloga el risc és tan important, et sembla bé si hi aprofundim?
 

Quins nivells de risc fixa la llei?

1. Risc inacceptable: Els sistemes de IA considerats com de risc inacceptable estan prohibits perquè suposen una amenaça clara per als drets fonamentals. Aquests inclouen tecnologies com la vigilància massiva sense control judicial o l'ús de tècniques de manipulació subliminal que puguin causar danys físics o psicològics.

Exemple: Un sistema de reconeixement facial utilitzat per monitoritzar contínuament les activitats dels ciutadans en espais públics sense el seu consentiment explícit i sense una autorització legal adequada.
 

2. Risc alt: Els sistemes de IA d'alt risc tenen potencial per afectar greument els drets i llibertats individuals, per això han de complir amb estrictes requisits de transparència, seguretat i supervisió. Aquests sistemes s’utilitzen en sectors crítics com la salut, l'educació, la seguretat i el sistema judicial.

Exemple: Algoritmes que s'utilitzen per avaluar les sol·licituds de préstecs bancaris o les avaluacions de risc de reincidència en el sistema judicial. Aquests sistemes han de ser objecte d'avaluacions independents per assegurar que no siguin discriminatoris i que funcionin correctament.

3. Risc limitat: Els sistemes de risc limitat tenen menys potencial per causar danys, però encara requereixen certa supervisió i mesures de transparència. Han de proporcionar informació clara als usuaris sobre la seva naturalesa i funció, així com assegurar que els resultats siguin comprensibles i auditables.

Exemple: Aplicacions de IA utilitzades per atenció al client que proporcionen respostes automàtiques a preguntes freqüents. Encara que no prenen decisions crítiques, han d'informar clarament als usuaris quan estan interactuant amb una IA.

4. Risc mínim o negligible: Els sistemes de IA que suposen un risc mínim o negligible tenen menys requisits normatius, ja que el seu ús no presenta una amenaça significativa per als drets i llibertats de les persones. Aquests sistemes sovint estan subjectes a les normatives generals de seguretat i privacitat.

Exemple: Algoritmes de recomanació en plataformes de streaming de música o vídeo, que suggereixen contingut basat en les preferències dels usuaris. Tot i que són importants per a l'experiència de l'usuari, no representen un risc per als seus drets fonamentals.

Malgrat que les lleis vigents fins ara ja oferien un cert grau de protecció, resultaven del tot insuficients per encarar els reptes de futur i la UE aquest cop es va posar les piles per evitar que la normativa anés cent passes per darrere de la tecnologia. Així, Llei de la IA garanteix que la ciutadania europea pot confiar en tot el que la IA ens pot oferir. Encara que la majoria de sistemes de IA tenen un risc limitat o nul, n’hi ha d’altres que comporten riscos que poden derivar en resultats no desitjats. És justament això el que la normativa vol evitar.

Et convidem a llegir el text sencer per saber-ne més.
 

I a partir d’ara què?

Tots sabem que el primer reglament de tot el món que regula la IA és vigent des del passat 1 d’agost i que s’aplicarà progressivament durant els propers dos anys. Però què vol dir això? Repassem-ho!

Els estats membres de la UE tenen de termini un any (fins al 2 d'agost de 2025) per designar a les autoritats nacionals competents que supervisaran l'aplicació de la normativa. A nivell europeu, l’Oficina de IA  de la Comissió serà el principal organisme d'aplicació de la Llei de IA, així com l'autoritat responsable de l'aplicació de les normes relatives als models de IA d'ús general. Alhora, també hi haurà altres òrgans consultius que l’assessoraran.

Per superar el període transitori abans de la seva plena aplicació d’aquí a dos anys, la Comissió ha posat en marxa el Pacte sobre la IA, que convida els desenvolupadors de IA a adoptar voluntàriament les obligacions clau de la Llei de IA abans dels terminis legals. Creus que s’hi acolliran?
 

Per a més informació sobre la normativa us recomanem les següents lectures:

• Notícia al portal 324.cat
• Article al portal TreceBits