Wie sal deur 'n selfbesturende motor doodgemaak word? Masjien, red soveel mense as moontlik, maar bowenal, red my!

As 'n situasie ontstaan ​​waar die outonome stelsel van 'n motor 'n vinnige keuse moet maak van wie om in die geval van 'n dreigende ongeluk op te offer, hoe moet dit reageer? Opoffering van passasiers om voetgangers te red? Indien nodig, dood 'n voetganger om te spaar, byvoorbeeld 'n gesin van vier wat in 'n motor ry? Of dalk moet hy homself altyd eerste beskerm?

Terwyl meer as sestig maatskappye reeds persoonlike toetspermitte in Kalifornië alleen ontvang het, is dit moeilik om te sê die bedryf is gereed om etiese dilemmas in die gesig te staar. Op die oomblik sukkel hy met meer basiese probleme – die werking en navigasiedoeltreffendheid van stelsels en om bloot botsings en onvoorsiene gebeure te vermy. In situasies soos die onlangse moord op 'n voetganger in Arizona, of daaropvolgende ongelukke (1), het dit tot dusver bloot oor stelselfoute gegaan, en nie oor 'n soort "etiese keuse" van die motor nie.

Red die ryk en jonk

Die kwessies om hierdie soort besluite te neem is nie abstrakte probleme nie. Enige ervare bestuurder kan dit sertifiseer. Verlede jaar het navorsers van die MIT Media Lab meer as veertig miljoen antwoorde van respondente van regoor die wêreld ontleed, wat hulle ingesamel het in die loop van navorsing wat in 2014 van stapel gestuur is. Die peilingstelsel wat hulle die "Etiese Masjien" noem, het getoon dat op verskeie plekke rondom die wêreld, word soortgelyke vrae verskillende antwoorde gevra.

Die mees algemene gevolgtrekkings is voorspelbaar. In uiterste situasies mense verkies om mense te red bo die versorging van diere, met die doel om soveel lewens as moontlik te red, en is geneig om jonger as bejaardes te wees (2). Daar is ook 'n paar, maar minder ooglopende, voorkeure wanneer dit kom by die redding van vroue bo mans, mense met 'n hoër status bo arm mense en voetgangers bo motorpassasiers..

2. Wie moet die kar red?

Aangesien byna 'n halfmiljoen respondente demografiese vraelyste ingevul het, was dit moontlik om hul voorkeure met ouderdom, geslag en geloofsoortuigings te korreleer. Die navorsers het tot die gevolgtrekking gekom dat hierdie verskille nie mense se besluite “beduidend beïnvloed” nie, maar sommige kulturele invloede opgemerk het. Die Franse was byvoorbeeld geneig om besluite te weeg op grond van die geskatte aantal sterftes, terwyl die klem in Japan die minste was. In die Land van die Opkomende Son word die lewe van bejaardes egter baie meer gewaardeer as in die Weste.

“Voordat ons ons motors toelaat om hul eie etiese besluite te neem, moet ons 'n wêreldwye debat hieroor hê. Wanneer maatskappye wat op outonome stelsels werk van ons voorkeure leer, sal hulle etiese algoritmes ontwikkel in masjiene wat daarop gebaseer is, en politici kan begin om voldoende wetlike bepalings in te stel,” het die wetenskaplikes in Oktober 2018 in Nature geskryf.

Een van die navorsers betrokke by die Moral Machine-eksperiment, Jean-Francois Bonnefont, het gevind dat die voorkeur om mense van hoër status (soos bestuurders bo haweloses) te red, kommerwekkend is. Na sy mening hou dit baie verband met die vlak van ekonomiese ongelykheid in 'n gegewe land. Waar ongelykhede groter was, is voorkeur gegee aan die offer van armes en haweloses.

Een van die vorige studies het veral getoon dat, volgens respondente, 'n outonome motor soveel mense as moontlik moet beskerm, al beteken dit dat passasiers verloor word. Terselfdertyd het die respondente egter verklaar dat hulle nie 'n motor wat so geprogrammeer is, sal koop nie. Die navorsers het dit verduidelik terwyl mense dit meer eties vind om meer mense te red, is hulle ook eiebelang, wat 'n sein aan vervaardigers kan wees dat kliënte huiwerig sal wees om motors wat met altruïstiese stelsels toegerus is, te koop.. ’n Tyd gelede het verteenwoordigers van die Mercedes-Benz-maatskappy gesê as hul stelsel net een persoon red, sal hulle die bestuurder kies, nie die voetganger nie. ’n Vlaag van openbare oproer het die maatskappy genoop om sy verklaring terug te trek. Maar navorsing toon duidelik dat daar baie skynheiligheid in hierdie heilige verontwaardiging was.

Dit gebeur reeds in sommige lande. eerste pogings tot wetlike regulering in veld. Duitsland het 'n wet aangeneem wat bestuurderlose motors vereis om beserings of dood ten alle koste te vermy. Die wet bepaal ook dat algoritmes nooit besluite kan neem op grond van eienskappe soos ouderdom, geslag, gesondheid of voetgangers nie.

Audi neem beheer

Die ontwerper is nie in staat om al die gevolge van die werking van die motor te voorspel nie. Realiteit kan altyd 'n kombinasie van veranderlikes verskaf wat nog nooit voorheen getoets is nie. Dit ondermyn ons geloof in die moontlikheid om hoegenaamd 'n masjien "eties te programmeer". Dit lyk vir ons dat in situasies waar 'n fout voorkom en 'n tragedie plaasvind "as gevolg van die fout van die motor", die verantwoordelikheid deur die vervaardiger en ontwikkelaar van die stelsel gedra moet word.

Miskien is hierdie redenasie korrek, maar dalk nie omdat dit verkeerd was nie. Eerder omdat 'n beweging toegelaat is wat nie 2019% vry was van die moontlikheid om dit te maak nie. Dit blyk die rede te wees, en gedeelde verantwoordelikheid word nie ontwyk deur die maatskappy nie, wat onlangs aangekondig het dat hy verantwoordelikheid sal neem vir ongelukke waarby 'n 8-jarige A3 betrokke is terwyl 'n outomatiese Traffic Jam Pilot (XNUMX)-stelsel daarin gebruik word.

3. Audi Traffic Jam Pilot koppelvlak

Aan die ander kant is daar miljoene mense wat motors bestuur en ook foute maak. So hoekom moet daar teen masjiene, wat statisties veel minder foute as mense maak, soos blyk uit talle foute, in hierdie verband gediskrimineer word?

As iemand dink dat die dilemmas van etiek en verantwoordelikheid in die wêreld van outonome voertuie eenvoudig is, hou aan dink ...