Kuru nogalinās pašbraucoša automašīna? Mašīna, izglāb pēc iespējas vairāk cilvēku, bet galvenais – glāb mani!
Ja rodas situācija, ka automašīnas autonomajai sistēmai ir ātri jāizdara izvēle, kuru upurēt nenovēršamas avārijas gadījumā, kā tai reaģēt? Vai upurēt pasažierus, lai glābtu gājējus? Ja nepieciešams, nogalināt gājēju, lai aiztaupītu, piemēram, četru cilvēku ģimeni, kas ceļo automašīnā? Vai varbūt viņam vienmēr vispirms vajadzētu aizsargāt sevi?
Lai gan vairāk nekā sešdesmit uzņēmumi jau ir saņēmuši personīgās pārbaudes atļaujas Kalifornijā vien, ir grūti teikt, ka nozare ir gatava saskarties ar ētiskām dilemmām. Šobrīd viņš cīnās ar elementārākām problēmām - sistēmu darbību un navigācijas efektivitāti un vienkārši izvairīšanos no sadursmēm un neparedzētiem notikumiem. Situācijās, piemēram, nesenā gājēja slepkavība Arizonā vai sekojošas avārijas (1), līdz šim runa ir bijusi tikai par sistēmas kļūmēm, nevis par kaut kādu automašīnas "ētisku izvēli".
Glābt bagātos un jaunos
Jautājumi par šāda veida lēmumu pieņemšanu nav abstraktas problēmas. To var apliecināt jebkurš pieredzējis autovadītājs. Pagājušajā gadā MIT Media Lab pētnieki analizēja vairāk nekā četrdesmit miljonus atbilžu no respondentiem no visas pasaules, ko viņi savāca 2014. gadā uzsāktā pētījuma gaitā. Aptauju sistēma, ko viņi sauc par "Ētisko mašīnu", parādīja, ka dažādās vietās ap pasaulē, līdzīgiem jautājumiem tiek uzdotas dažādas atbildes.
Vispārīgākie secinājumi ir paredzami. Ekstrēmās situācijās cilvēki dod priekšroku cilvēku glābšanai, nevis rūpēm par dzīvniekiem, cenšoties glābt pēc iespējas vairāk dzīvību, un parasti ir jaunāki par gados vecākiem cilvēkiem (2). Ir arī dažas, bet mazāk acīmredzamas, priekšrokas, ja runa ir par sieviešu glābšanu pār vīriešiem, augstāka statusa cilvēkus pār nabadzīgākiem cilvēkiem un gājējus pār automašīnu pasažieriem..
2. Kuru auto vajadzētu glābt?
Tā kā gandrīz pusmiljons respondentu aizpildīja demogrāfiskās anketas, bija iespējams saistīt viņu vēlmes ar vecumu, dzimumu un reliģisko pārliecību. Pētnieki secināja, ka šīs atšķirības "būtiski neietekmē" cilvēku lēmumus, taču atzīmēja dažas kultūras ietekmes. Piemēram, franči svēra lēmumus, pamatojoties uz aplēsto nāves gadījumu skaitu, savukārt Japānā uzsvars bija vismazākais. Taču Uzlecošās saules zemē veco ļaužu dzīvība tiek vērtēta daudz augstāk nekā Rietumos.
"Pirms mēs ļaujam mūsu automašīnām pašiem pieņemt ētiskus lēmumus, mums par to ir nepieciešamas globālas debates. Kad uzņēmumi, kas strādā pie autonomām sistēmām, uzzinās par mūsu vēlmēm, tad uz tām balstītās mašīnās izstrādās ētiskus algoritmus, un politiķi var sākt ieviest adekvātas tiesību normas,” 2018. gada oktobrī Nature rakstīja zinātnieki.
Viens no Moral Machine eksperimentā iesaistītajiem pētniekiem Žans Fransuā Bonefonts uzskatīja, ka priekšroka augstāka statusa cilvēku glābšanai (piemēram, vadītāji, nevis bezpajumtnieki) ir satraucoša. Viņaprāt, tas ir ļoti saistīts ar ekonomiskās nevienlīdzības līmenis konkrētajā valstī. Ja nevienlīdzība bija lielāka, priekšroka tika dota nabadzīgo un bezpajumtnieku upurēšanai.
Viens no iepriekšējiem pētījumiem īpaši parādīja, ka, pēc aptaujāto domām, autonomai automašīnai ir jāpasargā pēc iespējas vairāk cilvēku, pat ja tas nozīmē pasažieru zaudēšanu. Taču tajā pašā laikā aptaujātie norādīja, ka šādi ieprogrammētu auto neiegādātos. Pētnieki to paskaidroja lai gan cilvēkiem šķiet ētiskāk glābt vairāk cilvēku, viņi arī ir ieinteresēti, kas varētu būt signāls ražotājiem, ka klienti nelabprāt iegādāsies automašīnas, kas aprīkotas ar altruistiskām sistēmām.. Pirms kāda laika Mercedes-Benz kompānijas pārstāvji teica, ka, ja viņu sistēma izglābtu tikai vienu cilvēku, viņi izvēlētos vadītāju, nevis gājēju. Sabiedrības protesta vilnis lika uzņēmumam atsaukt savu deklarāciju. Taču pētījumi skaidri parāda, ka šajā svētajā sašutumā bija daudz liekulības.
Dažās valstīs tas jau notiek. pirmie mēģinājumi tiesiskajā regulēšanā laukā. Vācija ir pieņēmusi likumu, kas nosaka, ka automašīnām bez vadītāja par katru cenu ir jāizvairās no ievainojumiem vai nāves. Likums arī nosaka, ka algoritmi nekad nevar pieņemt lēmumus, pamatojoties uz tādām pazīmēm kā vecums, dzimums, veselība vai gājēji.
Audi uzņemas vadību
Visas automašīnas ekspluatācijas sekas konstruktors nespēj paredzēt. Realitāte vienmēr var nodrošināt tādu mainīgo lielumu kombināciju, kas nekad iepriekš nav pārbaudīti. Tas grauj mūsu pārliecību par iespēju "ētiski programmēt" mašīnu vispār. Mums šķiet, ka situācijās, kad notiek kļūda un notiek traģēdija "auto vainas dēļ", atbildība jāuzņemas sistēmas ražotājam un izstrādātājam.
Varbūt šis arguments ir pareizs, bet varbūt ne tāpēc, ka tas bija nepareizi. Drīzāk tāpēc, ka tika atļauta kustība, kas nebija 2019% brīva no iespējas to izdarīt. Šķiet, ka tas ir iemesls, un uzņēmums neizvairās no dalītās atbildības, kas nesen paziņoja, ka uzņemsies atbildību par negadījumiem, kuros iesaistīts 8 gadus vecs A3, izmantojot automātisko satiksmes sastrēgumu pilota (XNUMX) sistēmu.
3. Audi Traffic Jam pilot interfeiss
No otras puses, ir miljoniem cilvēku, kas brauc ar automašīnām un arī pieļauj kļūdas. Tātad, kāpēc šajā ziņā būtu jādiskriminē mašīnas, kuras statistiski pieļauj daudz mazāk kļūdu nekā cilvēki, par ko liecina daudzas kļūdas?
Ja kādam šķiet, ka ētikas un atbildības dilemmas autonomo transportlīdzekļu pasaulē ir vienkāršas, turpiniet domāt...
