Kenet itseajava auto tappaa? Kone, pelasta niin monta ihmistä kuin pystyt, mutta ennen kaikkea pelasta minut!

Jos syntyy tilanne, jossa auton autonomisen järjestelmän on tehtävä nopea valinta, kenet uhrataan uhkaavan onnettomuuden sattuessa, miten sen pitäisi reagoida? Uhrataanko matkustajia jalankulkijoiden pelastamiseksi? Tarvittaessa tappaa jalankulkija, esimerkiksi autossa matkustava nelihenkinen perhe? Tai ehkä hänen pitäisi aina suojella itseään ensin?

Vaikka yli kuusikymmentä yritystä on jo saanut henkilökohtaisen testausluvan yksin Kaliforniassa, on vaikea sanoa, että ala on valmis kohtaamaan eettisiä ongelmia. Tällä hetkellä hän kamppailee perusongelmien - järjestelmien toiminnan ja navigoinnin tehokkuuden sekä yksinkertaisesti törmäysten ja odottamattomien tapahtumien välttämisen - kanssa. Tilanteissa, kuten äskettäisessä jalankulkijan murhassa Arizonassa tai myöhemmissä kolareissa (1), tähän asti on ollut kyse vain järjestelmävioista, ei jonkinlaisesta auton "eettisestä valinnasta".

Pelastakaa rikkaat ja nuoret

Tällaisten päätösten tekeminen ei ole abstrakteja ongelmia. Jokainen kokenut kuljettaja voi todistaa tämän. MIT Media Labin tutkijat analysoivat viime vuonna yli neljäkymmentä miljoonaa vastausta eri puolilta maailmaa olevilta vastaajilta, jotka he keräsivät vuonna 2014 käynnistetyssä tutkimuksessa. Heidän "eettiseksi koneeksi" kutsumansa kyselyjärjestelmä osoitti, että eri puolilla maailmaa maailmassa, samanlaisiin kysymyksiin kysytään erilaisia ​​vastauksia.

Yleisimmät johtopäätökset ovat ennakoitavissa. Äärimmäisissä tilanteissa ihmiset mieluummin pelastavat ihmisiä kuin hoitavat eläimiä, pyrkivät pelastamaan mahdollisimman monta ihmishenkeä, ja he ovat yleensä nuorempia kuin vanhukset (2). On myös joitain, mutta vähemmän ilmeisiä, mieltymyksiä, kun on kyse naisten pelastamisesta miehistä, korkeammalla olevista ihmisistä köyhemmistä ja jalankulkijoista automatkustajien sijaan..

2. Ketä auton pitäisi säästää?

Koska lähes puoli miljoonaa vastaajaa täytti väestötietokyselyn, heidän mieltymyksensä oli mahdollista korreloida iän, sukupuolen ja uskonnollisten vakaumusten kanssa. Tutkijat päättelivät, että nämä erot eivät "vaikuttaneet merkittävästi" ihmisten päätöksiin, mutta havaitsivat joitain kulttuurisia vaikutteita. Esimerkiksi ranskalaiset painottivat päätöksiä kuolemantapausten arvioitujen lukumäärän perusteella, kun taas Japanissa painotus oli vähiten. Nousevan auringon maassa vanhusten elämää arvostetaan kuitenkin paljon enemmän kuin lännessä.

"Ennen kuin annamme autojemme tehdä omia eettisiä päätöksiään, meidän on käytävä maailmanlaajuista keskustelua tästä. Kun autonomisten järjestelmien parissa työskentelevät yritykset oppivat mieltymyksistämme, ne kehittävät niiden pohjalta koneisiin eettisiä algoritmeja, ja poliitikot voivat alkaa ottaa käyttöön asianmukaisia ​​säännöksiä”, tutkijat kirjoittivat lokakuussa 2018 Naturessa.

Eräs Moral Machine -kokeeseen osallistuneista tutkijoista, Jean-Francois Bonnefont, piti parempana olevien ihmisten (kuten johtajien) pelastamista hälyttävänä. Hänen mielestään tämä liittyy hyvin paljon taloudellisen eriarvoisuuden taso tietyssä maassa. Siellä missä eriarvoisuus oli suurempi, etusija annettiin köyhien ja kodittomien uhraukselle.

Yksi aiemmista tutkimuksista osoitti erityisesti, että vastaajien mukaan autonomisen auton tulisi suojella mahdollisimman monia ihmisiä, vaikka se merkitsisi matkustajien menettämistä. Samalla vastaajat kuitenkin ilmoittivat, etteivät he ostaisi tällä tavalla ohjelmoitua autoa. Tutkijat selittivät sen Vaikka ihmiset pitävät eettisempää pelastaa enemmän ihmisiä, he ovat myös oman edun mukaisia, mikä voi olla merkki valmistajille siitä, että asiakkaat ovat haluttomia ostamaan altruistisilla järjestelmillä varustettuja autoja.. Jokin aika sitten Mercedes-Benz-yhtiön edustajat sanoivat, että jos heidän järjestelmänsä pelastaisi vain yhden ihmisen, he valitsisivat kuljettajan, eivät jalankulkijan. Julkinen protestiaalto pakotti yrityksen peruuttamaan julistuksensa. Mutta tutkimus osoittaa selvästi, että tässä pyhässä suuttumuksessa oli paljon tekopyhyyttä.

Tätä tapahtuu jo joissain maissa. ensimmäiset oikeudellisen sääntelyn yritykset kentällä. Saksa on hyväksynyt lain, jonka mukaan kuljettajattomien autojen on vältettävä loukkaantumisia tai kuolemaa hinnalla millä hyvänsä. Laissa todetaan myös, että algoritmit eivät voi koskaan tehdä päätöksiä iän, sukupuolen, terveyden tai jalankulkijoiden kaltaisten ominaisuuksien perusteella.

Audi ottaa vastuun

Suunnittelija ei pysty ennustamaan kaikkia auton toiminnan seurauksia. Todellisuus voi aina tarjota yhdistelmän muuttujia, joita ei ole koskaan aiemmin testattu. Tämä heikentää uskoamme mahdollisuuteen "eettisesti ohjelmoida" kone ollenkaan. Meistä näyttää siltä, ​​että tilanteissa, joissa tapahtuu virhe ja tragedia "auton viasta johtuen", vastuu pitäisi kantaa järjestelmän valmistajalla ja kehittäjällä.

Ehkä tämä päättely on oikea, mutta ei ehkä siksi, että se oli väärä. Pikemminkin siksi, että sallittiin liike, joka ei ollut 2019 % vapaa mahdollisuudesta tehdä se. Tämä näyttää olevan syy, eikä yritys vältä jaettua vastuuta, koska se ilmoitti äskettäin ottavansa vastuun onnettomuuksista, joissa on osallisena 8-vuotias A3, kun siinä käytetään automaattista Traffic Jam Pilot (XNUMX) -järjestelmää.

3. Audi Traffic Jam Pilot -käyttöliittymä

Toisaalta on miljoonia ihmisiä, jotka ajavat autoa ja tekevät myös virheitä. Joten miksi koneita, jotka tekevät tilastollisesti paljon vähemmän virheitä kuin ihmiset, kuten monet virheet osoittavat, pitäisi syrjiä tässä suhteessa?

Jos joku ajattelee, että etiikan ja vastuullisuuden dilemmat autonomisten ajoneuvojen maailmassa ovat yksinkertaisia, jatka miettimistä...