El Consell de la Unió Europea i el Parlament Europeu han tancat aquest divendres un acord sobre la regulació de la intel·ligència artificial.

La regulació busca garantir que els sistemes d’intel·ligència artificial existents i utilitzats a la UE són segurs i respecten els drets fonamentals i els valors europeus.

El text que s’ha aprovat aquesta matinada permetrà regular l’ús d’aquesta tecnologia en funció del risc que suposa per les persones. Una nova legislació que també busca impulsar la indústria europea davant de gegants com la Xina o els Estats Units.

Després de mesos de negociacions i una última trobada de prop de 40 hores, el Consell i el Parlament Europeu han pactat aquest divendres la primera llei europea d’intel·ligència artificial, per permetre o prohibir aquesta tecnologia en funció del risc que suposi per a les persones.

Què regularà la llei?

La norma regularà els sistemes d’intel·ligència artificial com el conegut ChatGPT, però també altres àmbits com els límits de la identificació biomètrica, un dels últims punts del text legislatiu on s’havien encallat les converses per les diferents posicions entre els estats membres i els parlamentaris.

La nova llei també acabarà amb les tecnologies d’intel·ligència artificial que classifiquen currículums laborals per a procediments de contractació, que qualifiquen sobre la solvència de les persones que volen accedir a un préstec o estimen la fiabilitat de les proves presentades en un procediment judicial, que es basen en esquemes discriminatoris. Especialment, pel que fa a gènere, ètnia, orientació sexual o afinitats polítiques.

Pel que fa a la regulació dels sistemes generadors com ChatGPT, Alemanya, França i Itàlia  van demanar “més temps” per discutir la nova normativa per garantir que no obstaculitza la innovació i no afecta negativament la competitivitat de la indústria del bloc europeu, que pretén explotar aquesta tecnologia.

En canvi, el Parlament Europeu i una part important dels Vint-i-set optaven per regular i acotar per llei el desenvolupament dels anomenats sistemes fundacionals o sistemes generatius d’intel·ligència artificial, com ChatGPT, que creen contingut a través de l’observació d’altres dades. D’aquesta manera, pretenien assegurar-se que aquesta tecnologia no acaba suposant un perill.

Fins i tot l’Eurocambra tenia la intenció de classificar aquests sistemes directament “d’alt risc” i que, per tant, estiguessin lligats en curt legalment i sotmesos a un control molt estricte. Tanmateix, almenys Berlín, París i Roma volen que aquesta tecnologia s’autoreguli amb mecanismes propis de protecció, i que les autoritats només actuïn en cas de risc potencial.

Això sí, tant Alemanya com França i Itàlia estan disposades a acceptar el control d’un organisme extern i independent de les grans companyies del sector, que intervindrà en el supòsit que els sistemes fundacionals s’encaminin cap a un potencial perill. A més, aquestes empreses estarien en contacte constant amb la Comissió Europea, amb la qual treballarien conjuntament per identificar possibles perills i prendre mesures.

De fet, aquest mecanisme de control és similar al que ja han adoptat els Estats Units, que a finals d’octubre van aprovar la primera llei per regular la intel·ligència artificial. Qualsevol avenç d’un sistema fundacional que pugui suposar un “risc greu per a la seguretat nacional” s’haurà de notificar al govern estatunidenc.

Transparència dels continguts

Un altre dels punts destacats en què es va arribar a un consens és la transparència dels continguts creats a través de la intel·ligència artificial. S’haurà d’advertir quan un producte s’ha generat a través d’eines i tecnologies com ChatGPT, especialment per protegir els drets d’autor. Es vol crear un marc legal segur que potenciï la inversió en el sector i que les empreses que s’hi dediquen no hagin de fer front a una allau de demandes.

En aquesta línia, les institucions europees es volen assegurar que la llei no quedi desfasada massa aviat, sobretot tenint en compte que es preveu que la intel·ligència artificial evolucioni molt de pressa. Per això, permet que la Comissió Europea pugui prohibir per decret els nous usos que vagin sortint d’aquesta tecnologia sense que ho hagi d’acordar amb el Parlament Europeu o amb els estats membres.