Giulia Bucelli

Intelligenza artificiale, l’UE approva l’AI Act è un passo epocale

Intelligenza artificiale, l’UE approva l’AI Act è un passo epocale

ai act

Svolta europea per quanto riguarda l’intelligenza artificiale: l’Unione Europea approva il primo AI Act della storia. Ecco che cosa cambierà.

Dal 7 dicembre, l’intelligenza artificiale è regolamentata da un accordo che coinvolge tutti i Paesi europei. Si tratta dell’AI Act, uno dei primi strumenti legislativi globali volti a regolare l’uso di questa tecnologia e mitigare i rischi ad essa associati.

Cosa prevede l’AI Act?

Fulcro dell’AI Act è la salvaguardia dei diritti e delle libertà individuali: in base a questo accordo, le aziende che sviluppano software di intelligenza artificiale hanno il dovere di dimostrare che i loro prodotti e i processi di sviluppo non costituiscono una minaccia per le persone né violano la loro integrità.

Benché il regolamento copra diversi settori dell’applicazione delle IA, i punti chiave riguardano le restrizioni sui sistemi di identificazione biometrica e l’obbligo di trasparenza per i sistemi tecnologici, tra cui i chatbot come ChatGPT.

Divieti e limitazioni

A partire dall’entrata in vigore dell’AI Act, sarà vietato l’utilizzo dell’AI per analizzare dati biometrici sensibili, soprattutto se legati a orientamento sessuale, etnia, religione e idee politiche. In questo modo, si cercherà di prevenire discriminazioni e abusi.

Sarà vietato addestrare in modo indiscriminato i sistemi di riconoscimento facciale attingendo alle fotografie caricate sul Web o alle telecamere a circuito chiuso, salvaguardando così la privacy.

Non si potranno utilizzare le AI per rilevare le emozioni in luoghi come uffici e scuole: l’obiettivo è preservare la libertà emotiva.

L’AI Act scongiura il rischio, in Europa, di una società come quella descritta nel primo episodio della terza stagione della serie Black Mirror. Per chi non ha visto la serie, nell’episodio al quale ci riferiamo si racconta una società basata sul social scoring.

Si tratta di un sistema di valutazione degli individui in base ai loro comportamenti o caratteristiche, volto a garantire un crescente controllo sociale. Attualmente, è in uso in Cina. Vietando il social scoring, l’AI Act conterrà il rischio di manipolazione del comportamento delle persone.

Per quanto riguarda le AI ad alto impatto, come Chat GPT, i requisiti saranno particolarmente stringenti. Saranno essenziali la trasparenza nei processi di addestramento e la condivisione della documentazione tecnica prima del lancio sul mercato. I contenuti prodotti dovranno essere identificabili, in modo tale da ridurre il rischio di  frodi e disinformazione.

Per le aziende che non rispetteranno la normativa, le sanzioni saranno salatissime: potranno raggiungere il 7% del loro fatturato globale.

E le questioni di sicurezza?

L’utilizzo di sistemi di riconoscimento biometrico da parte delle forze dell’ordine sarà limitato solo a casi speciali gravi. Tra questi, la minaccia di un attacco terroristico imminente o la ricerca di individui sospettati di gravi reati o vittime di crimini.

Questo resta, comunque, il punto più critico e dibattuto e uno dei motivi per i quali i negoziati per raggiungere l’accordo sono durati 20 ore. Il Consiglio Europeo non voleva escludere completamente l’utilizzo dell’IA, anche impiegandola per attività di polizia predittiva

In particolare, a fare pressione per una legge più soft, sono state Italia, Ungheria e Francia:  quest’ultima ha recentemente avviato un sistema di AI per la sicurezza in previsione delle Olimpiadi del 2024 che si terranno a Parigi.

Queste le parole di Dragos Tudorache: “Le eccezioni per le forze dell’ordine prevedono salvaguardie più forti del testo iniziale della Commissione per non avere abusi. È stata la parte più combattuta”.

Il relatore italiano del testo, Brando Benifei, ha specificato: “È permesso usare i cosiddetti sistemi di analisi dei crimini, ma senza che siano applicati a specifici individui ma solo a dati anonimi e non devono indurre a pensare che qualcuno abbia commesso un crimine”.

Intelligenza artificiale, cosa succede ora?

Ci saranno solo sei mesi di tempo per vietare usi proibiti delle AI. Le aziende possono aderire volontariamente all’AI Act per conformarsi alla nuova legge prima che diventi operativa.

È stato creato un ufficio europeo per l’intelligenza artificiale per supervisionare l’applicazione della legge, con eccezioni per le piccole e medie imprese e ambienti di test (i cosiddetti regulatory sandbox).

Il testo definitivo della legge deve ancora passare per il vaglio dei tecnici ed essere approvato in via definitiva, ma l’entrata in vigore dovrebbe avvenire, salvo imprevisti, entro i prossimi due anni.

Condividi

Sullo stesso argomento

AI e arte, il punto di vista del sociologo Derrick de Kerckhove