L’AI Act non è “la legge che blocca l’IA”. È la lista dei casi d’uso in cui non puoi far finta di nulla. Sapere in quale scatola finisce il tuo sistema è il 90% del lavoro.

Che cos’è e perché conta 🔍

Il Regolamento (UE) 2024/1689 — noto come AI Act — è il primo quadro giuridico organico al mondo per l’intelligenza artificiale. È un regolamento, quindi direttamente applicabile in tutti gli Stati membri senza recepimento nazionale.

È stato pubblicato nella Gazzetta ufficiale dell’Unione europea il 12 luglio 2024 ed è entrato in vigore il 2 agosto 2024 (ventesimo giorno dopo la pubblicazione). Si applica a regime a decorrere dal 2 agosto 2026, ma con una fase graduale che ha già attivato molte disposizioni (vedi Timeline e scadenze).

L’obiettivo dichiarato è duplice: promuovere un’IA affidabile, antropocentrica e innovativa, e insieme proteggere salute, sicurezza e diritti fondamentali contro gli usi dannosi dei sistemi di IA. Il regolamento è basato su un modello basato sul rischio: più il caso d’uso è rischioso per le persone, più severi sono gli obblighi. Niente più, niente meno.

Il principio chiave è la proporzionalità per rischio: non tutti i sistemi di IA sono trattati allo stesso modo. La maggior parte degli usi quotidiani ha obblighi leggeri; il grosso della burocrazia si concentra su poche categorie ad alto rischio.

A chi si applica 🎯

L’AI Act ha un ambito extraterritoriale: non conta solo dove sei stabilito, ma dove finisce l’output dei tuoi sistemi.

Si applica a (Art. 2):

• Fornitori che immettono sul mercato o mettono in servizio sistemi di IA o modelli di IA per finalità generali (GPAI) nell’Unione, ovunque siano stabiliti;
• Deployer (utilizzatori) di sistemi di IA stabiliti o situati nell’UE;
• Fornitori e deployer di paesi terzi se l’output è usato nell’UE;
• Importatori e distributori di sistemi di IA;
• Fabbricanti di prodotti che integrano un sistema di IA nel proprio prodotto apponendo il proprio nome o marchio;
• Rappresentanti autorizzati di fornitori non stabiliti nell’UE.

Cosa resta fuori (Art. 2):

• Sistemi usati esclusivamente per scopi militari, di difesa o di sicurezza nazionale;
• Attività di ricerca e sviluppo scientifico (e i sistemi in fase di ricerca/prova prima dell’immissione sul mercato, salvo i test in condizioni reali);
• Sistemi rilasciati con licenza open source, a meno che non siano immessi sul mercato come ad alto rischio o rientrino nelle pratiche vietate o negli obblighi di trasparenza;
• Uso puramente personale non professionale.

Il “doppio uso” è sempre in agguato: un sistema sviluppato per fini civili che finisce in ambito sicurezza nazionale può comunque cadere sotto il regolamento a seconda dell’uso effettivo.

I ruoli nella catena del valore 🧑‍🤝‍🧑

L’AI Act distingue operatori con obblighi diversi:

Ruolo	Chi è	Dove sono gli obblighi
Fornitore (provider)	Chi sviluppa o fa sviluppare un sistema e lo immette sul mercato o lo mette in servizio	Art. 16
Deployer (utilizzatore)	Chi usa un sistema di IA sotto la propria autorità, fuori dall’uso personale	Art. 26
Importatore	Chi immette nell’UE un sistema di un fornitore di paese terzo	Art. 23
Distributore	Chi mette a disposizione sul mercato un sistema senza esserne fornitore o importatore	Art. 24
Fabbricante di prodotto	Chi integra un sistema di IA in un proprio prodotto	Art. 25
Rappresentante autorizzato	Mandatario del fornitore non UE	Art. 22

Un operatore può ricoprire più ruoli contemporaneamente (es. importatore e distributore): in tal caso cumula tutti gli obblighi annessi.

Le pratiche vietate: il confine invalicabile ⛔

L’Art. 5 vieta tassativamente alcune pratiche di IA, senza eccezioni “di buona intenzione”. La non conformità è punita con la sanzione più alta in assoluto (fino a €35.000.000 o 7% del fatturato mondiale annuo). In sintesi sono vietate:

1. Tecniche subliminali o manipolative che distorcono materialmente il comportamento di una persona, ledendo la sua capacità di decisione informata;
2. Sfruttamento delle vulnerabilità dovute a età, disabilità o situazione sociale/economica;
3. Punteggio sociale (social scoring) basato sul comportamento o su caratteristiche personali;
4. Valutazione predittiva del rischio di reato basata solo sulla profilazione (con eccezioni per il supporto alla valutazione umana fondata su fatti oggettivi);
5. Creazione di banche dati di riconoscimento facciale tramite scraping non mirato di immagini da internet o da CCTV;
6. Inferenza delle emozioni in ambito lavorativo e scolastico (salvo motivi medici o di sicurezza);
7. Categorizzazione biometrica individuale basata su dati biometrici per dedurre razza, opinioni politiche, religione, orientamento sessuale, ecc.;
8. Identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico a fini di contrasto, salvo ristretti casi (vittime di tratta, minacce terroristiche, reati gravi) con autorizzazione preventiva.

Nota: l’uso di verifica biometrica (autenticazione: “sei proprio tu”) non è vietato. È l’identificazione remota in tempo reale a scopo di sorveglianza che è fortemente limitata.

I sistemi ad alto rischio: dove sta il lavoro 📋

Il cuore pratico dell’AI Act è la categoria dei sistemi di IA ad alto rischio (Art. 6). Qui si concentrano quasi tutti gli obblighi documentali e tecnici.

Un sistema è ad alto rischio se:

• Art. 6.1: è un componente di sicurezza (o esso stesso il prodotto) di un prodotto già soggetto a specifica normativa di armonizzazione dell’UE (macchine, dispositivi medici, giocattoli, ascensori, ecc. — elenco in Allegato I);
• Art. 6.2 + Allegato III: rientra in uno degli 8 settori critici dell’Allegato III (vedi sotto).

I settori dell’Allegato III 🗂️

1. Biometria (identificazione biometrica remota, categorizzazione, riconoscimento emozioni) — se consentito dal diritto applicabile;
2. Infrastrutture critiche (componenti di sicurezza di sistemi critici: energia, traffico, acqua, gas, digitale);
3. Istruzione e formazione professionale (valutazione e ammissione di studenti, esami, sorveglianza anti-cheating);
4. Occupazione e gestione dei lavoratori (reclutamento, selezione, monitoraggio delle prestazioni);
5. Accesso a servizi essenziali privati e servizi pubblici (credito, assicurazione salute/vita, emergenze sanitarie);
6. Attività di contrasto (valutazione di affidabilità, rilevamento di falsi, analisi di reati);
7. Migrazione, asilo e gestione del controllo delle frontiere (verifica documenti, valutazione di rischio);
8. Amministrazione della giustizia e processi democratici (assistenza giudiziaria, ricerca giuridica, influenza su elezioni/refendum).

L’eccezione: rischio non significativo ⚖️

L’Art. 6.3 chiarisce che un sistema dell’Allegato III non è ad alto rischio se non presenta un rischio significativo di danno per salute, sicurezza o diritti fondamentali (es. non influisce materialmente sulle decisioni). Questa deroga vale solo se ricorre una delle condizioni:

• esegue un compito procedurale limitato;
• migliora il risultato di un’attività umana già completata;
• rileva schemi senza sostituire o influenzare una valutazione umana;
• esegue un compito preparatorio a una valutazione rilevante.

Ma attenzione: se il sistema effettua profilazione di persone fisiche, è sempre ad alto rischio, senza eccezioni. E se dichiari che il tuo sistema non è ad alto rischio, devi documentare la valutazione prima dell’immissione sul mercato e registrarti nella banca dati UE.

I requisiti per i sistemi ad alto rischio 🛡️

Per chi sviluppa sistemi ad alto rischio, gli obblighi sono strutturati e documentali. Ecco i requisiti principali per il fornitore (Art. 8-15):

Requisito	Cosa significa in pratica
Sistema di gestione del rischio (Art. 9)	Valutare e mitigare i rischi per tutto il ciclo di vita, iterativamente
Governance dei dati (Art. 10)	Dataset di addestramento/validazione/test rilevanti, rappresentativi, privi di errori, esenti da bias
Documentazione tecnica (Art. 11)	Descrizione completa del sistema, finalità, architettura, sviluppo, prove
Tenuta di registri (Art. 12)	Log automatici per tracciare il funzionamento del sistema nel tempo
Trasparenza e informazione ai deployer (Art. 13)	Istruzioni chiare su capacità, limiti, rischi e modalità d’uso
Supervisione umana (Art. 14)	Misure per permettere alle persone di monitorare e intervenire
Accuratezza, robustezza, cybersicurezza (Art. 15)	Prestazioni affidabili, resistenza agli errori e agli attacchi

Il fornitore deve inoltre: predisporre un sistema di gestione della qualità (Art. 17), redigere la dichiarazione di conformità UE (Art. 47) e apporre la marcatura CE (Art. 48), conservare tutta la documentazione per 10 anni (Art. 18-19) e registrare il sistema nella banca dati UE (Art. 49) prima dell’immissione sul mercato.

Il deployer, dal canto suo, deve (Art. 26): usare il sistema secondo le istruzioni, assicurare supervisione umana, monitorare e segnalare malfunzionamenti/incidenti, e quando il sistema prende decisioni che riguardano persone, informarle che sono soggette all’uso di un sistema di IA e assicurare il diritto a spiegazione.

Costo non è sinonimo di burocrazia fine a se stessa: per un prodotto già soggetto a marcatura CE (es. un dispositivo medico o una macchina), molti requisiti si integrano con la documentazione che già produci. L’AI Act aggiunge un livello, non lo sostituisce.

Obblighi di trasparenza per tutti gli altri 🤝

Per i sistemi non ad alto rischio ma comunque “interattivi”, l’Art. 50 impone obblighi di trasparenza più leggeri ma comunque obbligatori:

• Chatbot e interazione diretta: informare le persone che stanno interagendo con un sistema di IA (salvo sia evidente);
• Contenuti sintetici: marcare gli output generati o manipolati artificialmente (audio, immagini, video, testo) in formato rilevabile meccanicamente;
• Deepfake: rendere noto che il contenuto è generato o manipolato artificialmente;
• Riconoscimento emozioni / categorizzazione biometrica: informare le persone esposte;
• Testo generato su questioni di interesse pubblico: rivelare che è generato da IA, salvo revisione umana editoriale.

Questo è l’ambito che tocca di più lo sviluppo web/app quotidiano: qualunque chatbot, qualunque generatore di immagini o testo che pubblichi contenuti a scopo informativo ricade qui.

I modelli di IA per finalità generali (GPAI) 🧠

I modelli di IA per finalità generali (GPAI) — come i grandi modelli linguistici — hanno un regime dedicato (Capo V, Art. 50-56):

• Obblighi base per tutti i fornitori di GPAI (Art. 53): documentazione tecnica, informazioni per i fornitori a valle, politica di conformità al diritto d’autore (rispetto della riserva di diritti ex Direttiva 2019/790) e una sintesi pubblica dei contenuti usati per l’addestramento;
• Open source: i modelli GPAI open source con pesi pubblici sono esentati dagli obblighi base, salvo che presentino rischi sistemici;
• Rappresentante autorizzato: i fornitori di GPAI di paesi terzi devono nominare un rappresentante UE (Art. 54), con eccezione open source (salvo rischio sistemico).

I modelli con rischio sistemico (Art. 51) — presunto quando il calcolo di addestramento supera 10^25 FLOPs — hanno obblighi aggiuntivi (Art. 55): valutazione del modello, test contraddittorio (adversarial), mitigazione dei rischi sistemici, tracciamento e segnalazione di incidenti gravi, adeguata cybersicurezza.

La soglia di 10^25 FLOPs è il modo concreto per dire “i modelli più grandi del mondo”. La Commissione può aggiornarla con atti delegati e designare modelli anche sotto soglia sulla base dei criteri dell’Allegato XIII.

Impatto per le aziende 🏢

Se la tua azienda usa o sviluppa IA, il percorso di compliance è:

1. Inventario dei sistemi: elenca tutti i sistemi di IA in uso o in sviluppo (chatbot, motori di raccomandazione, tool di recruiting, generazione contenuti, ecc.);
2. Classificazione: determina per ogni sistema se è vietato (Art. 5), ad alto rischio (Art. 6+Allegato III), trasparenza (Art. 50), GPAI, o a basso rischio;
3. Gap analysis: confronta lo stato attuale con gli obblighi della categoria;
4. Piano di conformità: documentazione, governance dei dati, supervisione umana, sicurezza, per i sistemi ad alto rischio;
5. Griglia di assegnazione dei ruoli: chiarisci se sei fornitore, deployer, importatore o distributore (i ruoli si cumulano).

Sanzioni (Art. 99, per violazioni commesse da imprese):

Violazione	Sanzione massima
Pratiche vietate (Art. 5)	€35.000.000 o 7% del fatturato mondiale
Obblighi fornitori/deployer/trasparenza	€15.000.000 o 3% del fatturato mondiale
Informazioni inesatte agli organismi/autorità	€7.500.000 o 1% del fatturato mondiale

Per le PMI e le start-up, le sanzioni sono ridotte al valore inferiore tra l’importo e la percentuale (Art. 99.6). E il regolamento prevede spazi di sperimentazione normativa (regulatory sandbox) e misure a sostegno dell’innovazione per le piccole realtà.

Impatto per gli sviluppatori 💻

Cosa cambia davvero nel daily work:

• Documentazione come requisito: per i sistemi ad alto rischio, la documentazione tecnica (dati, architettura, prove) non è un accessorio, è parte della consegna;
• Governance dei dati: devi poter dimostrare che i dataset di addestramento sono rilevanti, rappresentativi e privi di bias. Il “README sul dataset” diventa obbligatorio in pratica;
• Test di robustezza e cybersicurezza: accuratezza, resistenza agli errori e agli attacchi diventano requisiti verificabili;
• Tracciabilità: i log e i registri automatici per il monitoraggio dei sistemi ad alto rischio;
• Trasparenza: per chatbot e contenuti sintetici, l’etichettatura e la marcabilità tecnica degli output;
• Diritto d’autore (GPAI): se lavori su modelli di base, il rispetto della riserva di diritti e la sintesi dei contenuti di addestramento.

Un esempio concreto di spigolo nascosto: un’API di un fornitore GPAI messa in servizio per il supporto clienti ricade negli obblighi di trasparenza del chatbot; se la stessa API alimenta un sistema di screening CV, classifichi il sistema come ad alto rischio (occupazione). Lo stesso modello, due regimi diversi a seconda del caso d’uso.

Timeline e scadenze 📆

L’AI Act entra in vigore e si applica in modo graduale:

Data	Cosa si applica
2 agosto 2024	Entrata in vigore (20 giorni dopo la pubblicazione in GU del 12.7.2024)
2 febbraio 2025	Capi I e II (disposizioni generali + pratiche vietate): i divieti dell’Art. 5 sono già in vigore
2 agosto 2025	Capo III sez. 4 (organismi notificati), Capo V (GPAI, tranne art. 101), Capo VII (governance), Capo XII (sanzioni, salvo art. 101) e Art. 78
2 agosto 2026	Applicazione a regime del regolamento
2 agosto 2027	Art. 6.1 (classificazione ad alto rischio per prodotti di cui all’Allegato I) e obblighi connessi

In pratica: i divieti sono già operativi dal 2025, gli obblighi sui GPAI dal 2025, e la gran parte dei requisiti sui sistemi ad alto rischio dell’Allegato III scade con l’applicazione piena del 2026. Per i prodotti soggetti ad altra normativa di armonizzazione (macchine, dispositivi medici…) vale la scadenza ulteriore del 2027.

Checklist di conformità ✅

Checklist sintetica per orientarsi.

Scoping e inventario

• Inventario di tutti i sistemi di IA (in uso e in sviluppo)
• Classificazione per categoria di rischio (vietato / alto / trasparenza / GPAI / basso)
• Identificati i ruoli propri (fornitore, deployer, importatore, distributore)

Pratiche vietate (Art. 5)

• Nessun sistema manipolativo/sfruttamento di vulnerabilità
• Nessun social scoring, nessuna predizione reati solo per profilazione
• Nessuno scraping biometrico, nessuna inferenza emozioni sul lavoro/studio
• Nessuna categorizzazione biometrica su attributi sensibili
• Identificazione remota tempo reale solo nei casi consentiti e autorizzati

Sistemi ad alto rischio (solo se applicabile)

• Sistema di gestione del rischio (Art. 9)
• Governance dei dati e dataset senza bias (Art. 10)
• Documentazione tecnica (Art. 11)
• Tenuta di registri / log automatici (Art. 12)
• Istruzioni per i deployer / trasparenza (Art. 13)
• Supervisione umana (Art. 14)
• Accuratezza, robustezza, cybersicurezza (Art. 15)
• Gestione della qualità e dichiarazione CE + marcatura (Art. 17, 47, 48)
• Conservazione documentazione 10 anni (Art. 18-19)
• Registrazione nella banca dati UE (Art. 49)

Trasparenza (Art. 50)

• Chatbot: informato l’utente di essere di fronte a un’IA
• Contenuti sintetici: output marcati/rilevabili
• Deepfake: reso noto
• Testo su interesse pubblico: dichiarazione di generazione artificiale

GPAI (se applicabile)

• Documentazione tecnica e dati a valle (Art. 53)
• Rispetto del diritto d’autore + sintesi dei contenuti di addestramento (Art. 53)
• Rappresentante autorizzato UE se fornitore di paese terzo (Art. 54)
• Se rischio sistemico: valutazione, adversarial testing, segnalazione incidenti (Art. 55)

Collegamenti utili 🔗

• Testo dell’AI Act (EUR-Lex) — Regolamento (UE) 2024/1689
• AI Act — Commissione europea — Pagina ufficiale e orientamenti
• Ufficio AI (AI Office) — L’ufficio europeo per l’attuazione dell’AI Act
• Piano di azione AI — AgID — Strategia italiana sull’IA
• Raccomandazioni EU sull’IA affidabile — Etica dell’IA
• Direttiva 2019/790 sul diritto d’autore (DSM) — Riferimento per la riserva dei diritti

Vedi anche 📖

• GDPR — La protezione dei dati personali su cui poggia l’IA: basi giuridiche, diritti, DPIA
• NIS 2 — Cybersecurity — La sicurezza delle infrastrutture a cui l’IA ad alto rischio si appoggia
• Cyber Resilience Act — La sicurezza dei prodotti con elementi digitali, complementare all’AI Act
• Data Act — Accesso e portabilità dei dati, la materia prima dell’IA
• Legge AI Italiana — Il recepimento nazionale e le disposizioni italiane sull’IA