Chi morirà in un incidente stradale che coinvolge un'auto a guida autonoma?

Secondo Business Insider, gli esperti affermano che le auto a guida autonoma stanno già operando una profonda scelta su quale vita abbia più valore. Ecco perché le persone vogliono prestare attenzione alla loro selezione.

"Ogni volta che un'auto a guida autonoma esegue una manovra evasiva, implicitamente prende una decisione su quanto siano pericolosi diversi gruppi di persone", ha scritto in un'e-mail Iyad Rahwan, scienziato cognitivo del Massachusetts Institute of Technology.

La questione più nota nel dibattito sull'etica delle auto a guida autonoma è il problema del carrello, uno degli esperimenti mentali più noti nel campo dell'etica, che riguarda chi dovrebbe essere sacrificato in un incidente stradale inevitabile. Ad esempio, se un pedone cade improvvisamente davanti a un'auto a guida autonoma in rapido movimento, l'auto può cambiare direzione e schiantarsi contro un posto di blocco, uccidendo potenzialmente i passeggeri, oppure continuare ad avanzare, schiacciando potenzialmente il pedone caduto. Cosa dovrebbe fare l'auto a guida autonoma?

Lavan e i suoi colleghi hanno studiato il modo in cui le persone prendono decisioni in assenza di un piano perfetto. Anche se al momento lo scenario fatale è ipotetico, Lavan e altri operatori del settore affermano che sarà inevitabile man mano che le auto a guida autonoma diventeranno più diffuse.

Secondo Business Insider, gli esperti affermano che le auto a guida autonoma stanno già operando una profonda scelta su quale vita abbia più valore. Ecco perché le persone vogliono prestare attenzione alla loro selezione.

"Ogni volta che un'auto a guida autonoma esegue una manovra evasiva, implicitamente prende una decisione su quanto siano pericolosi diversi gruppi di persone", ha scritto in un'e-mail Iyad Rahwan, scienziato cognitivo del Massachusetts Institute of Technology.

La questione più nota nel dibattito sull'etica delle auto a guida autonoma è il problema del carrello, uno degli esperimenti mentali più noti nel campo dell'etica, che riguarda chi dovrebbe essere sacrificato in un incidente stradale inevitabile. Ad esempio, se un pedone cade improvvisamente davanti a un'auto a guida autonoma in rapido movimento, l'auto può cambiare direzione e schiantarsi contro un posto di blocco, uccidendo potenzialmente i passeggeri, oppure continuare ad avanzare, schiacciando potenzialmente il pedone caduto. Cosa dovrebbe fare l'auto a guida autonoma?

Lavan e i suoi colleghi hanno studiato il modo in cui le persone prendono decisioni in assenza di un piano perfetto. Anche se al momento lo scenario fatale è ipotetico, Lavan e altri operatori del settore affermano che sarà inevitabile man mano che le auto a guida autonoma diventeranno più diffuse.

Ci sono poi questioni etiche che emergono nella vita di tutti i giorni, come ad esempio cosa dovrebbe fare un'auto a guida autonoma quando sorpassa un ciclista o un pedone?

"Quando guidi su strada, crei un pericolo per chi ti circonda", ha affermato Ryan Jenkins, professore di filosofia alla California Polytechnic State University. "Quando passiamo davanti a ciclisti e jogger, cerchiamo di starne il più lontano possibile perché pensiamo che sia più sicuro. Anche se siamo molto sicuri che non ci scontreremo con loro, pensiamo alla possibilità che qualcosa di inaspettato ci costringa a sterzare, o che un ciclista cada dalla bici o un jogger scivoli sulla strada."

Non è facile rispondere a queste domande. "Per garantire davvero la sicurezza dei pedoni, i veicoli autonomi dovrebbero viaggiare a velocità molto basse quando i pedoni sono sul marciapiede, nel caso in cui entrino nella corsia di marcia", ha scritto in un'e-mail Noah Goodall, scienziato del Virginia Transportation Research Board.

I conducenti umani possono rispondere a diverse domande etiche attraverso l'intuizione, ma per l'intelligenza artificiale questa non è una domanda facile. Per risolvere il problema, i programmatori di auto a guida autonoma devono creare regole esplicite per ogni situazione oppure basarsi sulle regole di guida generali.

“Da un lato, gli algoritmi che controllano un’auto a guida autonoma potrebbero avere una serie di regole esplicite per effettuare compromessi etici”, ha scritto Lavan. “D’altro canto, le decisioni che un’auto a guida autonoma prende quando il danno è inevitabile possono derivare dall’interazione di più elementi software, nessuno dei quali è specificamente responsabile della gestione delle decisioni etiche”.

Secondo Business Insider, anche se i programmatori scelgono di mantenere il concetto sul vago, in alcuni casi o in generale rimangono ancora tracce di comportamento delle auto a guida autonoma.

"Per parafrasare il famoso teologo Harvey Cox: non avere scelta è una scelta", ha scritto in una e-mail Oren Etzioni, amministratore delegato dell'Allen Institute for Artificial Intelligence.

Come affrontano queste questioni etiche le aziende produttrici di auto a guida autonoma? In molti casi cercano di eludere questi problemi.

Sebbene il problema del carrello elevatore abbia ricevuto molta attenzione, l'industria delle auto a guida autonoma si è in gran parte rifiutata di commentare o ha liquidato la questione con un tono superficiale. Un dirigente della Daimler ha dichiarato quest'autunno a Car and Driver che le auto a guida autonoma della Mercedes-Benz proteggeranno a tutti i costi la sicurezza dei passeggeri. In seguito la Daimler ha negato l'affermazione, affermando che "è chiaro che né i programmatori né i sistemi di guida autonoma hanno il diritto di decidere il valore della vita umana". Daimler ha anche affermato che il problema del carrello non era un problema reale perché l'azienda era "impegnata a evitare del tutto i dilemmi implementando strategie di guida avverse al rischio".

Naturalmente, gli esperti di etica faranno notare che alcuni rischi sono inevitabili (ad esempio, il guasto dei freni o il comportamento improvviso e imprevedibile di altri conducenti, ciclisti, pedoni e animali), quindi non è pretenzioso pensare che le auto debbano fare delle scelte difficili.

Possiamo interpretare l’affermazione di Daimler secondo cui tutte le vite sono uguali nel senso che non considera esplicitamente un gruppo di persone come più prezioso.

Google ha divulgato più dettagli di qualsiasi altra azienda su come le sue auto a guida autonoma reagiscono agli incidenti stradali.

Nel 2014, Sebastian Thrun, fondatore della divisione X di Google, affermò che le auto a guida autonoma dell'azienda avrebbero scelto di scontrarsi con il più piccolo dei due oggetti: "se l'incidente stradale è inevitabile, si schianterà contro l'oggetto più piccolo".

Un brevetto Google del 2014 relativo al posizionamento nella corsia laterale segue una logica simile, descrivendo come le auto a guida autonoma dovrebbero allontanarsi dai camion in una corsia e avvicinarsi alle auto in un'altra perché è più sicuro scontrarsi con oggetti più piccoli.

Naturalmente, scontrarsi con un oggetto più piccolo è una scelta etica: una scelta del genere tutela gli interessi dei passeggeri e riduce al minimo i danni da loro subiti. Si potrebbe anche prendere in considerazione questa possibilità per trasferire il pericolo ai pedoni o ai passeggeri di piccole auto. Come ha sottolineato in una e-mail Patrick Lin, professore di filosofia alla California Polytechnic State University, "L'oggetto più piccolo potrebbe essere un passeggino o un bambino piccolo".

Nel marzo 2016, Chris Urmson, allora a capo del team di auto a guida autonoma di Google, descrisse una regola più "sofisticata" al Los Angeles Times: "Le nostre auto a guida autonoma faranno del loro meglio per evitare di colpire utenti della strada non protetti: ciclisti e pedoni. Eviteranno anche di colpire oggetti in movimento".

Questo approccio è più pratico rispetto allo schianto contro oggetti più piccoli e cerca di proteggere le persone che potrebbero subire i maggiori danni in caso di incidente. Naturalmente, potrebbe anche essere meno popolare tra gli acquirenti di auto a guida autonoma, che sicuramente vorranno che le auto che acquistano li garantiscano la sicurezza a tutti i costi.

Come dovrebbero essere gestite le questioni etiche delle auto a guida autonoma? Nel settore esiste almeno un consenso: questa questione necessita di ulteriori discussioni.

"I produttori e altri soggetti stanno collaborando con gli enti regolatori e le altre parti interessate, come conducenti, passeggeri e utenti vulnerabili della strada, per affrontare queste situazioni e garantire che tali giudizi e decisioni etiche siano prese consapevolmente", ha affermato la National Highway Traffic Safety Administration in un rapporto di settembre.

Wayne Simpson, dirigente di Consumer Watchdog, un'organizzazione senza scopo di lucro per la difesa dei consumatori, è d'accordo. In una testimonianza presentata alla National Highway Traffic Safety Administration, ha affermato: "Il pubblico ha il diritto di sapere se un veicolo autonomo dà priorità alla sicurezza dei passeggeri, dei conducenti o dei pedoni quando circola su strada e quali fattori considera. Se non si risponde a queste questioni, le aziende limiteranno le proprie responsabilità nella progettazione dei veicoli, anziché conformarsi alle consuetudini sociali, alle pratiche etiche o alle leggi e ai regolamenti pertinenti".

Il settore delle auto a guida autonoma sembra essere aperto ai buoni consigli. Apple, nota azienda produttrice di auto a guida autonoma, ha affermato che avrebbe condotto "un'analisi approfondita, tenendo conto del feedback dei leader del settore, dei consumatori, delle agenzie federali e di altri esperti".

Ford ha ribadito questo sentimento, affermando di stare già "collaborando con diverse università e partner industriali leader" per affrontare il tema dell'etica delle auto a guida autonoma.

Allo stesso tempo, Ford metteva in guardia dal filosofare eccessivo. Wayne Bahr, direttore globale della sicurezza dei veicoli di Ford, ha affermato: "Stiamo cercando di affrontare questo problema da una prospettiva professionale ed evitare di rimanere bloccati in ipotesi irrealistiche. Un problema comune nelle discussioni sull'etica delle auto a guida autonoma è che le ipotesi di base sulle capacità delle auto a guida autonoma sono sbagliate. Ad esempio, mettere in discussione il valore della vita di una persona rispetto a quella di un'altra presuppone che l'auto a guida autonoma possa distinguere quale persona ha un valore più alto".

Secondo Business Insider, i commenti di Bach si riferivano ad altre versioni del problema del carrello: la scelta di chi uccidere tiene conto di fattori quali età, stato legale e valore sociale. Nel breve termine, è improbabile che le auto a guida autonoma siano in grado di categorizzare le persone in base a questi fattori.

A lungo termine, la decisione più etica è quella di rendere la maggior parte delle auto in circolazione a guida autonoma. Dopotutto, le auto a guida autonoma sono molto più sicure dei conducenti umani e si prevede che ridurranno gli incidenti stradali del 90%.

Ma l'uso diffuso delle auto a guida autonoma richiede buone leggi che evitino passi falsi che potrebbero innescare dibattiti e contenziosi. In altre parole, richiede standard etici.

"Prima le auto a guida autonoma diventeranno comuni, meno persone moriranno in incidenti stradali", hanno scritto Rawan e i colleghi Azim Shariff e Jean-François Bonnefon sul New York Times. “Ma sarà necessario affrontare seriamente le sfide psicologiche e tecniche delle auto a guida autonoma per liberare le persone dalla necessità di guidare”.

Vincitore del Qingyun Plan di Toutiao e del Bai+ Plan di Baijiahao, del Baidu Digital Author of the Year 2019, del Baijiahao's Most Popular Author in the Technology Field, del Sogou Technology and Culture Author 2019 e del Baijiahao Quarterly Influential Creator 2021, ha vinto numerosi premi, tra cui il Sohu Best Industry Media Person 2013, il China New Media Entrepreneurship Competition Beijing 2015, il Guangmang Experience Award 2015, il China New Media Entrepreneurship Competition Finals 2015 e il Baidu Dynamic Annual Powerful Celebrity 2018.