La Comissió Europea ha reunit de manera extraordinària el seu panel científic d'intel·ligència artificial per abordar els riscos de seguretat associats als models d'IA més avançats. La trobada s'emmarca en els treballs de supervisió d'aquesta tecnologia i en el desenvolupament del sistema europeu de governança previst pel Reglament d'intel·ligència artificial.
El panel científic està format per 60 experts independents que assessoren l'Oficina Europea d'Intel·ligència Artificial i les autoritats nacionals competents. Entre les seves funcions hi ha l'anàlisi dels riscos sistèmics, la classificació dels models d'IA, el desenvolupament de metodologies d'avaluació i el suport a la vigilància del mercat. En aquesta reunió especial, els experts han examinat incidents recents, que estan relacionats amb la pèrdua de control de sistemes avançats i han treballat amb l'Oficina d'IA en qüestions dirigides a les empreses desenvolupadores dels models implicats.
A més, el panel ha preparat recomanacions sobre els riscos de seguretat dels sistemes d'IA de frontera, una denominació que fa referència als models més avançats tecnològicament. La iniciativa respon a la necessitat de disposar d'anàlisis científiques especialitzades per valorar les capacitats d'aquests sistemes i les seves possibles implicacions.
Més informació aquí.