Il Comitato per la protezione dei consumatori e del mercato interno del Parlamento Europeo ha approvato, con 39 voti favorevoli, nessuno contrario e quattro astensioni, una risoluzione che affronta diverse sfide derivanti dal rapido sviluppo delle tecnologie di intelligenza artificiale (AI) e di processo decisionale automatizzato (ADM). “Quando i consumatori interagiscono con un sistema ADM, dicono gli eurodeputati, dovrebbero essere adeguatamente informati su come funziona, su come raggiungere un essere umano con poteri decisionali e su come le decisioni del sistema possano essere controllate e corrette”.
Tali sistemi dovrebbero utilizzare solo set di dati imparziali e di alta qualità e “algoritmi spiegabili e imparziali” al fine di rafforzare la fiducia e l’accettazione dei consumatori. Dovrebbero inoltre essere istituite strutture di revisione per porre rimedio a possibili errori nelle decisioni automatizzate e per i consumatori dovrebbe essere possibile chiedere la revisione da personale umano. “Gli addetti umani – è l’indirizzo dato dal Comitato – devono sempre essere in ultima analisi responsabili e in grado di prevalere sulle decisioni che vengono prese attraverso i processi ADM, in particolare in relazione alle professioni mediche, legali e contabili e al settore bancario”.

Adeguare le norme di sicurezza e responsabilità alle nuove tecnologie

«La tecnologia nel campo dell’intelligenza artificiale e del processo decisionale automatizzato – ha sottolineato Petra De Sutter (Verdi / ALE, BE), presidente del Comitato per il mercato interno e la protezione dei consumatori – sta avanzando a un ritmo straordinario. Dobbiamo assicurarci che sia garantita la protezione e la fiducia dei consumatori, che le norme dell’UE in materia di sicurezza e responsabilità per prodotti e servizi siano idonee allo scopo nell’era digitale e che i set di dati utilizzati nei sistemi decisionali automatizzati siano di alta qualità e siano imparziali».