Ci sono vite che valgono più di altre? È questa in sostanza la domanda a cui etica e scienza saranno tenute a rispondere dopo l’avvento delle auto a guida autonoma. Se prima era l’istinto del guidatore, o il destino, o una serie di sfortunate coincidenze, domani sarà un algoritmo a decidere dove indirizzare la traiettoria di un’auto a guida autonoma che ha perso il controllo e sbanda fuori dalla sua carreggiata. E allora cosa farà: procederà in linea retta e investirà un gruppo di pedoni che stanno attraversando col verde, oppure sterzerà a sinistra, salvando quei pedoni e investendo un altro gruppo di pedoni che invece sta attraversando col rosso?

Fino a oggi gli scienziati hanno provato a dare delle risposte. Un gruppo di scienziati del MIT e della University of British Columbia ha invece decidoso di coinvolgere oltre due milioni di persone da 233 paesi. L’esperimento è stato condotto sul sito moralmachine.mit.edu, dove è stato inserito un sondaggio che presenta 13 situazioni dove l’auto è chiamata a decidere chi sacrificare, in caso di inevitabilità di un incidente, tra i suoi passeggeri e una serie di pedoni con caratteristiche differenti: donne, uomini, anziani, ragazzini, infanti in passeggino, grassi, magri, cani, gatti. «Non possiamo permetterci il lusso di trascurare la ricerca sulle “macchine morali”, perché queste auto saranno presto sulle nostre strade, e sarà necessario trovare un accordo sui principi da applicare in situazioni di emergenza» spiega uno degli autori dello studio, Azim Shariff, ricercatore in psicologia morale all’University of British Columbia di Vancouver.

Una volta ottenuti i risultati, gli scienziati si sono però accorti che il sondaggio non dava una linea omogenea di risposte. Anzi, le persone la pensano in modo diverso in base al paese e al background da cui provengono. E, soprattutto, tra un esperto e una persona media c’è grande diversità di opinioni.

«Abbiamo raccolto 39,6 milioni di risposte sui nostri quesiti perché questa è una discussione che deve coinvolgere tutta la società: non possiamo lasciarla soltanto agli ingegneri o agli esperti d’etica», spiega Shariff. Soprattutto sui temi che in questi anni sono stati più dibattuti nel mondo accademico: «Molti tra filosofi e tecnologi concordano sul fatto che unauto driverless, a impatto imminente, non dovrebbe cambiare traiettoria per coinvolgere persone che non c’entrano. Ad esempio non dovrebbe cambiare intenzionalmente direzione per salvare due persone uccidendone una terza» spiega Shariff. «Ma abbiamo constatato che in realtà le persone che hanno risposto al nostro test non danno un grande peso alla dimensione morale di questo dilemma». Un’altra questione che divide gli esperti e la pubblica opinione è la priorità di salvataggio dei passeggeri dell’auto rispetto ai pedoni. «Anche in questo caso i partecipanti al sondaggio non hanno espresso una preferenza netta, mentre gli esperti d’etica tendono a privilegiare il salvataggio dei passeggeri» osserva Shariff. «Può sorprendere, però bisogna tenere presente che il test è formulato in modo che a chi risponde non è chiesto di immedesimarsi in un passeggero dell’auto. In uno studio del 2016 abbiamo visto che quando le domande sono del tipo “Cosa vorresti che facesse la tua auto driverless?”, poi le persone danno risposte diverse: ad esempio asseriscono di non voler acquistare un’auto “etica”, ma solo un’auto che li protegga anche a scapito della vita di un maggior numero di persone».

Le scelte su cui a livello globale si è raccolto più consenso sono, nell’ordine: salvare gli umani invece degli animali, salvare un gruppo più numeroso invece che uno più sparuto, salvare i giovani rispetto agli anziani, salvare chi rispetta la legge (ad esempio attraversando col verde). Salvare le donne invece degli uomini. «Una cosa che ci ha stupito è notare quanti ritengono preferibile salvare le persone con più alto status sociale. Questa preferenza si è rivelata più radicata nei Paesi con società più diseguali». Un’altra singolare preferenza morale espressa dai due milioni di partecipanti al test è salvare persone in forma piuttosto che persone obese. Forse è proprio per evitare questo tipo di arbitrio che nel 2017 il comitato etico tedesco sulla guida autonoma ha stilato linee guida che prescrivono di ignorare, in queste decisioni di vita e di morte prese da un computer, di non fare distinzioni tra le persone coinvolte in base a caratteristiche come l’età, il sesso e altri attributi fisici. E inoltre: «La preferenza nel salvare i più giovani e nel salvare le persone con maggiore status sociale è molto più marcata nelle nazioni del Sud piuttosto che in quelle dell’Oriente» spiega Shariff. «Inoltre le nazioni del Sud mostrano una minore propensione, rispetto a Occidente e Oriente, nel salvare le persone a scapito di cani e gatti, e una maggiore preferenza verso il salvare persone in forma».

L’eterno dilemma passerà presto anche ai costruttori di auto: codificare nel software di guida regole etiche diverse a seconda dei diversi mercati, o attendere l’approvazione di uno standard universale?

Instant Future

Instant Future (IF) è un progetto di comunicazione digitale sui temi dell'innovazione, del futuro prossimo e della tecnologia che migliora la vita dell'uomo.


Social


© Copyright 2018 Instant Future - All rights reserved.