L’intelligenza artificiale e i processi decisionali automatizzati possono comportare dei rischi per i consumatori: il Parlamento europeo intende proteggerli
L’intelligenza artificiale e i processi decisionali automatizzati possono comportare dei rischi per i consumatori. Ora però il Parlamento europeo intende proteggerli.
Cos’è l’intelligenza artificiale e perché può essere pericolosa
Gli algoritmi di apprendimento sono in grado di elaborare serie di dati con una precisione e una velocità superiori alle capacità umane, ecco perché le applicazioni di intelligenza artificiale (IA) sono diventate sempre più comuni in tutti i settori: dalla finanza alla salute, dall’istruzione al sistema giuridico, e oltre.
Ma affidarsi all’IA comporta dei rischi, specialmente quando questa ha la facoltà di prendere decisioni senza la supervisione umana. L’apprendimento automatico (noto in inglese come machine learning) si basa sul riconoscimento di modelli (tecnicamente chiamati pattern) all’interno di set di dati. I dati forniti dagli uomini alle macchine possono però riflettere pregiudizi sociali, e in quel caso l’intelligenza artificiale incorporerà gli stessi pregiudizi nel proprio processo decisionale.
L’IA nei processi decisionali
L’intelligenza artificiale viene utilizzata sempre di più nella progettazione di algoritmi decisionali. Le decisioni prese dagli algoritmi possono avere un impatto significativo nella vita dei cittadini: dalla concessione di credito, all’ottenimento di un lavoro o di cure mediche fino ad influire sull’esito di sentenze giudiziarie.
In alcuni casi i processi decisionali automatizzati rischiano di perpetuare il divario sociale.
Alcuni algoritmi, ad esempio, si sono dimostrati discriminatori nei confronti delle donne: si tratta di sistemi di IA utilizzati negli uffici risorse umane di alcune aziende che a causa di distorsioni storiche nei dati che utilizzano per elaborare una decisione – privilegiano le assunzioni (o le promozioni) maschili rispetto a quelle femminili.
Proteggere i consumatori
Lo sviluppo dell’intelligenza artificiale e dei processi decisionali automatizzati presenta delle sfide anche per la fiducia e il benessere dei consumatori: quando interagiscono con questi sistemi, i consumatori dovrebbero essere adeguatamente informati sul loro funzionamento, per poter prendere decisioni consapevoli sul loro utilizzo.
La posizione del Parlamento
Il Parlamento chiede alla Commissione di valutare la necessità di attuare misure supplementari per garantire una tutela solida dei diritti dei consumatori nell’ambito dell’intelligenza artificiale e dei sistemi decisionali automatizzati.
- garantire la protezione dei consumatori da pratiche commerciali sleali e/o discriminatorie, o da rischi derivanti da servizi commerciali di intelligenza artificiale;
- garantire maggiore trasparenza in questi processi;
- assicurare che soltanto dati non discriminatori e di alta qualità vengano utilizzati nei sistemi decisionali automatizzati.