Chi verrà ucciso da un'auto a guida autonoma? Macchina, salva più persone possibile, ma soprattutto salva me!

Se si verifica una situazione in cui il sistema autonomo di un'auto deve scegliere rapidamente chi sacrificare in caso di incidente imminente, come dovrebbe reagire? Sacrificare i passeggeri per salvare i pedoni? Se necessario, uccidere un pedone per risparmiare, ad esempio, una famiglia di quattro persone che viaggia in macchina? O forse dovrebbe sempre proteggersi prima?

Mentre più di sessanta aziende hanno già ricevuto permessi di test personali nella sola California, è difficile dire che il settore sia pronto ad affrontare dilemmi etici. Al momento, sta lottando con problemi più basilari: il funzionamento e l'efficienza di navigazione dei sistemi e semplicemente evitare collisioni ed eventi imprevisti. In situazioni come il recente omicidio di un pedone in Arizona o gli incidenti successivi (1), finora si è trattato semplicemente di guasti del sistema e non di una sorta di "scelta etica" dell'auto.

Salva i ricchi e i giovani

I problemi di prendere questo tipo di decisioni non sono problemi astratti. Qualsiasi pilota esperto può certificarlo. L'anno scorso, i ricercatori del MIT Media Lab hanno analizzato oltre quaranta milioni di risposte di intervistati da tutto il mondo, che hanno raccolto nel corso della ricerca avviata nel 2014. Il sistema di sondaggi che chiamano "Macchina etica", ha mostrato che in vari luoghi nel mondo, a domande simili vengono poste risposte diverse.

Le conclusioni più generali sono prevedibili. In situazioni estreme le persone preferiscono salvare le persone piuttosto che prendersi cura degli animali, mirando a salvare quante più vite possibili, e tendono ad essere più giovani degli anziani (2). Ci sono anche alcune preferenze, ma meno ovvie, quando si tratta di salvare le donne rispetto agli uomini, le persone di rango superiore rispetto alle persone più povere e i pedoni rispetto ai passeggeri delle auto..

2. Chi dovrebbe salvare l'auto?

Poiché quasi mezzo milione di intervistati ha compilato questionari demografici, è stato possibile correlare le proprie preferenze con l'età, il sesso e le credenze religiose. I ricercatori hanno concluso che queste differenze non hanno "influenzato in modo significativo" le decisioni delle persone, ma hanno notato alcune influenze culturali. I francesi, ad esempio, tendevano a pesare le decisioni sulla base del numero stimato di morti, mentre in Giappone l'enfasi era la minore. Tuttavia, nel Paese del Sol Levante, la vita degli anziani è molto più apprezzata che in Occidente.

“Prima di consentire alle nostre auto di prendere le proprie decisioni etiche, dobbiamo avere un dibattito globale su questo. Quando le aziende che lavorano su sistemi autonomi verranno a conoscenza delle nostre preferenze, svilupperanno algoritmi etici in macchine basate su di esse e i politici potranno iniziare a introdurre disposizioni legali adeguate ", hanno scritto gli scienziati nell'ottobre 2018 su Nature.

Uno dei ricercatori coinvolti nell'esperimento Moral Machine, Jean-Francois Bonnefont, ha trovato allarmante la preferenza per il salvataggio di persone di rango superiore (come i dirigenti rispetto ai senzatetto). A suo parere, questo è molto legato a il livello di disuguaglianza economica in un determinato paese. Laddove le disuguaglianze erano maggiori, si preferiva sacrificare i poveri ei senzatetto.

Uno degli studi precedenti ha mostrato, in particolare, che, secondo gli intervistati, un'auto a guida autonoma dovrebbe proteggere quante più persone possibile, anche a costo di perdere passeggeri. Allo stesso tempo, tuttavia, gli intervistati hanno affermato che non avrebbero acquistato un'auto programmata in questo modo. Lo hanno spiegato i ricercatori mentre le persone trovano più etico salvare più persone, sono anche egoistiche, il che potrebbe essere un segnale per i produttori che i clienti saranno riluttanti ad acquistare auto dotate di sistemi altruistici.. Qualche tempo fa, i rappresentanti dell'azienda Mercedes-Benz hanno affermato che se il loro sistema avesse salvato solo una persona, avrebbero scelto il conducente, non il pedone. Un'ondata di protesta pubblica ha costretto l'azienda a ritirare la sua dichiarazione. Ma la ricerca mostra chiaramente che c'era molta ipocrisia in questa santa indignazione.

Questo sta già accadendo in alcuni paesi. primi tentativi di regolamentazione legale in campo. La Germania ha approvato una legge che impone alle auto senza conducente di evitare lesioni o morte a tutti i costi. La legge afferma inoltre che gli algoritmi non possono mai prendere decisioni in base a caratteristiche come età, sesso, salute o pedoni.

L'Audi si fa carico

Il progettista non è in grado di prevedere tutte le conseguenze del funzionamento dell'auto. La realtà può sempre fornire una combinazione di variabili che non sono mai state testate prima. Questo mina la nostra convinzione nella possibilità di "programmare eticamente" una macchina. Ci sembra che nelle situazioni in cui si verifica un errore e si verifica una tragedia "per colpa dell'auto", la responsabilità dovrebbe essere a carico del produttore e dello sviluppatore del sistema.

Forse questo ragionamento è corretto, ma forse non perché era sbagliato. Piuttosto, perché è stato consentito un movimento che nel 2019 non era esente dalla possibilità di realizzarlo. Questo sembra essere il motivo e la responsabilità condivisa non è elusa dalla società, che ha recentemente annunciato che si sarebbe presa la responsabilità degli incidenti che hanno coinvolto un A8 di 3 anni mentre utilizzava un sistema automatico Traffic Jam Pilot (XNUMX).

3. Interfaccia pilota Audi Traffic Jam

D'altra parte, ci sono milioni di persone che guidano auto e commettono anche errori. Allora perché le macchine, che statisticamente commettono molti meno errori degli esseri umani, come dimostrano numerosi errori, dovrebbero essere discriminate a questo riguardo?

Se qualcuno pensa che i dilemmi dell'etica e della responsabilità nel mondo dei veicoli autonomi siano semplici, continui a pensare...