Començaran a aplicar-se noves normes de transparència, que exigiran als usuaris que certs sistemes d’IA indiquin quan interactuen amb la IA i quan aquesta ha generat o alterat contingut.
Representació de la Comissió Europea a Barcelona
A partir del 2 d’agost de 2026, l’Oficina d’IA de la Comissió Europea, juntament amb les autoritats nacionals, començarà a fer complir la Llei d’Intel·ligència Artificial (IA). A partir d’aquesta data, començaran a aplicar-se noves normes de transparència, que exigiran als usuaris que certs sistemes d’IA indiquin quan interactuen amb la IA i quan aquesta ha generat o alterat contingut.
Segons les noves normes, els chatbots i altres sistemes interactius d’IA hauran d’indicar als usuaris que estan tractant amb IA, no amb un humà. Els deepfakes (imatges, vídeos o àudios que s’han editat o generat mitjançant IA) hauran d’estar etiquetats. El contingut generat o alterat per IA també haurà de portar marques llegibles per màquina perquè es pugui detectar més fàcilment.
Les mesures tenen com a objectiu reduir l’engany i la manipulació i ajudar les persones a prendre decisions informades. També donen a les empreses obligacions més clares i una manera pràctica de demostrar el compliment de la normativa. La Comissió ha publicat avui una primera llista de més de 180 organitzacions que han signat el Codi de bones pràctiques sobre la transparència del contingut generat per IA que posa en pràctica les normes sobre la transparència del contingut generat per IA.
A mesura que la IA esdevé cada cop més capaç i s’integra a la vida quotidiana, la Llei d’IA ajuda a garantir que la IA es desenvolupi, desplegui i utilitzi de manera segura, donant a les persones i les empreses de tota la UE una major confiança en la tecnologia.
Aplicació de la Llei d’IA
L’Oficina d’IA ara pot fer complir les normes de la Llei d’IA per als proveïdors de models d’IA d’ús general (GPAI). Aquests models poden realitzar moltes tasques diferents i es poden utilitzar en una àmplia gamma d’eines i serveis, inclosos els agents d’IA.
Les normes també cobreixen els models GPAI més avançats que poden plantejar riscos sistèmics. Els seus proveïdors han de complir obligacions addicionals per fer front als riscos de danys a gran escala, com ara els riscos relacionats amb incidents químics, biològics, radiològics i nuclears, pèrdua de control, ciberdelinqüència, manipulació nociva i amenaces als drets fonamentals. També aborden els riscos que recentment han cridat l’atenció pública, inclosos els riscos per a la ciberseguretat europea i per a la IA que actua fora del control humà.
Tots els proveïdors de models GPAI han de documentar determinada informació i proporcionar-la a les autoritats competents o als proveïdors posteriors. També han d’establir una política de drets d’autor i publicar un resum prou detallat del contingut utilitzat per entrenar els seus models.
També comença l’aplicació de les obligacions de transparència i les pràctiques d’IA prohibides. Aquestes prohibeixen sistemes particularment nocius, inclosos els sistemes que manipulen les persones, exploten les vulnerabilitats de maneres nocives o puntuen injustament les persones de maneres que amenacen els seus drets.
La responsabilitat de fer complir les normes de transparència i les pràctiques prohibides es comparteix entre tres organismes. L’Oficina d’IA fa complir les normes per als sistemes d’IA oferts pel mateix proveïdor que el model d’IA d’ús general subjacent. També cobreix els sistemes integrats en plataformes en línia molt grans o motors de cerca en línia molt grans designats en virtut de la Llei de Serveis Digitals.
Les autoritats nacionals competents fan complir les normes per a altres sistemes d’IA. El Supervisor Europeu de Protecció de Dades fa complir les normes per als sistemes d’IA utilitzats per les institucions, organismes i agències de la Unió Europea.
L’aplicació eficaç també dependrà que els Estats membres garanteixin que les autoritats nacionals competents estiguin degudament designades i disposant de recursos suficients.
Suport científic
L’Oficina d’IA i les autoritats nacionals competents rebran el suport en la seva tasca d’aplicació de la normativa pel Pànel científic, un òrgan assessor d’experts format per 60 experts independents en IA. El grup recentment va celebrar la seva primera reunió.
L’Oficina d’IA també ha nomenat el professor Alessandro Abate, del Departament d’Informàtica de la Universitat d’Oxford, com a assessor científic principal. Donarà suport al treball científic de l’Oficina sobre models d’IA d’ús general, incloent-hi la innovació i l’adopció, així com les proves i l’avaluació de models.
Eines de seguiment
Per donar suport a l’aplicació de la llei, l’Oficina d’IA ha llançat diverses eines per a particulars i empreses. Les persones físiques i jurídiques poden utilitzar l’eina de denúncies per denunciar presumptes infraccions de la Llei d’IA per part de proveïdors de sistemes d’IA supervisats per l’Oficina d’IA. Les persones que treballen amb proveïdors de sistemes d’IA o models d’IA d’ús general poden utilitzar l’eina de denúncia per informar sobre possibles infraccions de la Llei de manera segura. També hi ha un canal dedicat disponible per als proveïdors posteriors que construeixen sistemes d’IA sobre models d’ús general i volen denunciar presumptes infraccions per part dels proveïdors d’aquests models.
L’Oficina d’IA tractarà la informació rebuda a través d’aquestes eines de manera confidencial.
Antecedents
El professor Abate s’incorpora a l’Oficina d’IA procedent del Departament d’Informàtica de la Universitat d’Oxford. Anteriorment va dur a terme investigacions a la Universitat de Stanford i a SRI International, un institut de recerca líder als Estats Units, i va ser professor assistent a la TU Delft. És reconegut internacionalment pel seu treball sobre la seguretat, la verificació i el control dels sistemes habilitats per IA, àrees que són al centre del mandat de l’Oficina d’IA. El professor Abate té un màster (2004) i un doctorat (2007) en Enginyeria Elèctrica i Ciències de la Computació per la Universitat de Califòrnia, Berkeley.
Propers passos
L’Òmnibus d’IA va ajornar l’aplicació de les normes sobre sistemes d’IA d’alt risc fins al 2 de desembre de 2027. També va ajornar les normes per a sistemes d’IA d’alt risc integrats en productes regulats fins al 2 d’agost de 2028.
L’Òmnibus d’IA introdueix noves prohibicions sobre els sistemes d’IA que generen contingut sexualment explícit no consentit i material d’abús sexual infantil. Aquestes normes s’aplicaran a partir del 2 de desembre de 2026.
Més informació
Servei d’atenció de la Llei d’IA
Directrius sobre pràctiques d’IA prohibides
Codi de bones pràctiques d’IA d’ús general
Plantilla per al resum públic del contingut de formació per a models GPAI
Directrius per a proveïdors de models GPAI
Codi de bones pràctiques sobre la transparència del contingut generat per IA
Esborrany de directrius sobre les obligacions de transparència per a determinats sistemes d’IA
Esborrany de directrius sobre la classificació dels sistemes d’IA d’alt risc
