Chi dovrà insegnare etica alle automobili a guida autonoma?

Le norme federali negli Stati Uniti potrebbero disporre il processo secondo cui le automobili decideranno chi proteggere o nuocere in un incidente stradale.

di Andrew Rosenblum

I rapidi progressi nella guida autonoma stanno alimentando i timori legati alle possibili scelte etiche che questi veicoli potranno dover prendere, come ad esempio sterzare bruscamente per evitare un incidente e rischiare di travolgere dei passanti.

Christopher Hart, presidente del National Transportation Safety Board, è fra le persone che temono questo genere di scenari. Ci ha spiegato che occorreranno delle normative federali per stabilire i principi morali alla base delle scelte compiute da questi veicoli, oltre a standard di sicurezza con i quali determinare il livello di affidabilità minimo.

“Il governo dovrà entrare in gioco e dire, ‘Dovete mostrarmi una probabilità di fallimento inferiore a X, o indicarmi una misura di sicurezza in grado di garantire che un eventuale fallimento porti alla morte delle persone”, dice Hart.

Hart ha anche detto che servirebbero regole per determinare il processo di codificazione delle prerogative etiche nei software delle vetture. Per spiegare questa necessità, ci ha dato l’esempio di un’auto a guida autonoma costretta a decidere fra un incidente potenzialmente fatale e una brusca manovra che potrebbe portarla a investire dei pedoni.
“Penso che servirà l’intervento del governo federale per riuscire a risolvere la questione. Questo genere di scelta sarà inevitabile”, ha detto.

La NHTSA sta ormai valutando da otto mesi i procedimenti ideali per regolare le automobili a guida autonoma, per cui possiamo aspettarci di avere presto una loro guida. L’agenzia, però, non ha ancora discusso degli aspetti etici legati alla guida autonoma.

Al momento, quel poco che esiste sulle automobili autonome proviene da stati come la California, ed è pensato per i prototipi che sono attualmente in fase di collaudo da parte di società come Alphabet e Uber. Lo stato della California richiede che un conducente di sicurezza sia sempre pronto a subentrare, e che la società operatrice presenti sempre un rapporto per descrivere dettagliatamente la dinamica degli incidenti in cui è stato necessario l’intervento umano.

Ryan Calo, un esperto di leggi della robotica presso la University of Washington, è scettico riguardo la possibilità di tradurre le discussioni etiche finora teorizzate in regole pratiche o design di sistema. Non crede che le automobili a guida autonoma siano sufficientemente sofisticate da comprendere i vari fattori che un essere umano considererebbe in una situazione reale.

Calo crede che la questione ruoti maggiormente attorno alla nostra volontà di implementare dei sistemi che preverrebbero molti incidenti ma che occasionalmente commetterebbero errori fatali che nessun essere umano commetterebbe. “Se dovesse incontrare simultaneamente un carrello della spesa e un passeggino, non saprebbe prendere la decisione morale che qualche alimento vale meno di una vita umana”, dice Calo. “Se però un sistema simile salvasse complessivamente decine di migliaia di vite umane perché è più sicuro dei conducenti umani?”

Patrick Lin, un professore di filosofia presso la Cal Poly State University di San Luis Obispo che ha studiato etica e guida autonoma assieme al braccio nonprofit di Daimler-Benz, dice che l’idea di auto in grado di prendere decisioni etiche non dovrebbe essere screditata tanto velocemente. I progressi nei sensori, nell’intelligenza artificiale e nei software di riconoscimento facciale porteranno probabilmente ad auto capaci di decidere quale vita salvare e quale sacrificare, dice.

“È meglio cercare di anticipare e gestire attivamente il problema prima di arrivare a quel punto”, dice Lin. “Questo è il genere di cosa che potrebbe portare a una causa legale in grado di distruggere una società o lasciare un segno indelebile sull’industria”.

Standard federali di etica o altri fattori di sicurezza potrebbero anche portare a una trasparenza sui processi decisionali delle automobili a guida autonoma. Lin spiega che le case automobilistiche tendono a custodire gelosamente i dettagli legati ai loro software per cercare di proteggerli da hacker e competitori. “I costruttori sono notoriamente riservati riguardo la programmazione e l’ottimizzazione degli standard di sicurezza”, dice.

(MO)

Related Posts
Total
0
Share