Intelligenza Artificiale: Come Proteggiamo i Diritti dei Consumatori nelle Applicazioni di IA?

Sono molte le applicazioni utili dell'intelligenza artificiale: dalla produzione industriale all'intrattenimento e dall'ecommerce agli elettrodomestici intelligenti. Ma per tutti i benefici potenziali che l'IA offre ai consumatori, è importante anche non perdere di vista il suo impatto sui nostri diritti sia umani che come consumatori ed utenti di servizi.

IA all'ordine del giorno

Le istituzioni europee stanno prestando molta attenzione agli sviluppi dell'IA e ad indirizzare questi sviluppi nella giusta direzione:

"La tecnologia guidata dall'IA sta entrando in più aspetti della vita di ogni individuo, dagli elettrodomestici intelligenti alle applicazioni di social media, ed è sempre più utilizzata dalle autorità pubbliche per valutare la personalità o le competenze delle persone, allocare risorse e altrimenti prendere decisioni che possono avere conseguenze reali e serie per i diritti umani degli individui. Trovare il giusto equilibrio tra lo sviluppo tecnologico e la protezione dei diritti umani è quindi una questione urgente."

Anche l'Agenzia dell'Unione Europea per i Diritti Fondamentali si sta concentrando sulle sfide dell'IA. Con un approccio positivo, l'agenzia riferisce sull'importanza di affrontare i pregiudizi negli algoritmi per prevenire possibili discriminazioni. Nel frattempo, la Commissione Europea ha intrapreso importanti percorsi, proponendo l'AI Act nell'aprile 2021. Questo primo quadro normativo per l'IA mira a trasformare l'UE in un hub globale per l'intelligenza artificiale affidabile.

Come parte della Commissione Europea, il Centro Europeo per la Trasparenza Algoritmica (ECAT) lavorerà per migliorare la nostra comprensione di come funzionano gli algoritmi. Gli esperti dell'ECAT coopereranno con rappresentanti dell'industria, accademici e organizzazioni della società civile. Insieme analizzeranno la trasparenza, valuteranno i rischi e proporranno nuovi approcci trasparenti per contribuire a un ambiente online fidato per tutti.

IA e diritti dei consumatori

I consumatori possono beneficiare delle tecnologie IA, che offrono loro nuove funzionalità e possono aiutare nella ricerca di offerte personalizzate rispetto alle loro reali esigenze e volontà. Ma se questo è potenzialmente positivo, organizzazioni di consumatori come l'Organizzazione Europea dei Consumatori (BEUC) -cui tramite il CIE partecipa anche la Casa del Consumatore- e la Rete dei Centri Europei dei Consumatori (ECC-Net) stanno sollevando preoccupazioni, ad esempio sulla protezione dei dati personali delle persone e sulle pratiche commerciali scorrette. Una delle domande che ci si sta ponendo è se i diritti dei consumatori vengono rispettati quando gli algoritmi fissano i prezzi o sfruttano le informazioni personali dei consumatori per guidare le decisioni di acquisto?

Per lavorare verso sistemi di intelligenza artificiale di cui gli europei possono fidarsi, esperti, aziende, autorità pubbliche e società civile dovrebbero cooperare per scoprire potenziali problemi e misure per mitigare questi problemi. Un primo passo è quindi osservare, capire e discutere. Di seguito alcuni dei nostri punti di riflessione per quello che speriamo diventi un dialogo fruttuoso su equilibrio e protezione.

Considerazioni

I consumatori dovrebbero avere sempre il diritto all'informazione. Dovrebbero essere informati quando un algoritmo utilizza le loro informazioni personali per fornire offerte di beni e servizi, utilizza questi dati per prendere una decisione o segnala questi dati a terze parti. Le informazioni personali potrebbero includere dati sul comportamento di acquisto, o dati relativi alla salute, alle emozioni o alle finanze del consumatore.
I consumatori dovrebbero sempre avere la possibilità di richiedere un intervento umano se sono insoddisfatti dell'esito di un sistema di gestione dei reclami basato sull'IA.
Risorse come documentazione completa, test, dataset e strumenti di previsione dei dati dovrebbero essere resi disponibili e accessibili.
Distribuitori e utenti dovrebbero collaborare nella conduzione di una valutazione dell'impatto sui diritti fondamentali e sui diritti dei consumatori.
Anche le misure legislative necessitano di frequenti adattamenti, data l'evoluzione rapida della tecnologia e dei casi d'uso, che pongono nuove sfide. I codici di condotta possono essere utili per l'autoregolamentazione in campi che non sono ancora regolati da norme. Campagne di sensibilizzazione ad hoc dovrebbero infine indirizzare consumatori, aziende e responsabili politici verso un percorso di consapevolezza e responsabilità nelle scelte. Sperando che questo basti a delineare un contorno etico ed un adeguato grado di controllo su un tipo di tecnologie con un potenziale di ripercussioni anche negative sulle nostre vite e libertà, davvero spaventoso.