Autonómne autá je niečo, čomu sa v budúcnosti nevyhneme. No názory na nich sa rôznia. Jedni vravia, že počítač je vždy bezpečnejší než ľudský faktor, iní sa zasa zamerali na nasledujúcu dilemu.
Budúcnosť je tu. A k budúcnosti pravdepodobne budú patriť aj autonómne autá. V roku 2014 vedci z MIT Media Lab prišli s experimentom s názvom Moral Machine. Cieľom bolo vytvoriť platformu podobnú hre, ktorá by zhromažďovala rozhodnutia ľudí čeliacich takzvanej električkovej dileme (trolley dilemma). Zjednodušene povedané, či by obetovali skupinku ľudí kvôli jednému človeku a naopak.
Za 4 roky sa experimentu zúčastnili milióny ľudí v 233 krajinách a platforma zaznamenala celkom 40 miliónov rozhodnutí, čím sa stali jednou z najväčších štúdií, ktoré sa uskutočnili v súvislosti s globálnymi morálnymi preferenciami. Portál MIT Technology Review prišiel so sumárom výsledkov analýzy.
Klasický električkový problém znie takto: po koľajniciach sa rúti nezastaviteľný vozeň a o niekoľko metrov ďalej stojí v jeho ceste skupinka piatich ľudí. Máte prístup k páke, ktorá by mohla prehodiť koľaje na inú trasu, kde sa ale nachádza jedna osoba. Neexistuje spôsob, ako varovať ľudí, že sa blíži nebezpečenstvo. Ak zatiahnete za páku, zachránite piatich ľudí, ale vozeň zabije jedného. Ak nespravíte nič, vozeň zabije piatich ľudí.
Experiment využil túto myšlienku, no transformoval ju na autonómne autá. Malo by auto uprednostniť ľudí pred domácimi miláčikmi, posádku auta pred chodcami, viac životov pred menej životmi, ženy pred mužmi, starších pred mladšími, vyššie postavených ľudí pred nižšie postavenými, zákonodarcov pred zloduchmi? A vôbec, malo by autonómne auto spraviť vôbec niečo, alebo by malo pokračovať v pôvodnej trajektórii?
Vedci predviedli účastníkom rôzne kombinácie situácií, ako napríklad, či by autonómne auto malo pokračovať v ceste a zabiť troch starších chodcov, alebo sa vyhnúť chodcom a naraziť do barikády, pričom zahynie celá posádka auta skladajúca sa z troch mladších pasažierov.
Výskumníci zistili, že preferencie krajín sa značne líšia, ale tiež korelujú s kultúrou a ekonomikou danej oblasti. Napríklad účastníci experimentu z kolektivistických kultúr, ako je Čína a Japonsko, majú menšiu tendenciu ušetriť mladších a obetovať starších: tieto krajiny sú totiž známe veľkým rešpektom práve voči starším.
Podobne boli účastníci experimentu z chudobnejších krajín tolerantnejší voči chodcom, ktorí prechádzali cez cestu na miestach, kde to nebolo povolené. A účastníci z krajín s vysokou mierou ekonomickej nerovnosti vykazujú väčšie rozdiely v zaobchádzaním s jednotlivcami s vysokým a nízkym sociálnym postavením.
Vedcov ale prekvapilo zistenie, že v prípade tradičného električkového problému vykázali krajiny s individualistickou kultúrou (predovšetkým západné krajiny) tendenciu ušetriť skupinku ľudí pred jednotlivcom a naopak, krajiny s kolektivistickou kultúrou sú na opačnom konci spektra. Vysvetľujú to tým, že vo východných kultúrach sa kladie dôraz na hodnotu jednotlivca.
Krajiny v tesnej blízkosti vykazovali podobné morálne preferencie, pričom dominovali tri zoskupenia: západ, východ a juh.
Čo to znamená pre autonómne autá?
Výsledky tohto experimentu by mohli zohrávať úlohu pri formovaní zákonov a regulácií pre autonómne autá. Výrobcovia automobilov tak napríklad vedia, že čínski spotrebitelia preferujú autá, ktoré obetujú radšej chodcov ako ich, a podobne.
Autori štúdie však zdôraznili, že tieto výsledky by v žiadnom prípade nemali viesť k akýmsi nepísaným zákonom, ako sa majú ľudia správať v danej krajine. Edmond Awad, autor experimentu, uviedol ako príklad porovnanie sociálneho statusu. “Zdá sa, že ľudia považovali za normálne ušetriť vyššie postavených ľudí v porovnaní s nižšie postavenými,” povedal. To ale neznamená, že to takto musí byť s autonómnymi autami aj v realite.” Výsledky experimentu by mal automobilový priemysel a vlády použiť ako základ pre pochopenie toho, ako verejnosť reaguje na etiku rôznych návrhov a politických rozhodnutí.
“V posledných dvoch, tri roky sa začalo hovoriť o etike AI intenzívnejšie,” povedal Awad. “Viac ľudí si začalo uvedomovať, že AI môže mať rôzne etické dôsledky na rôzne skupiny ľudí. Fakt, že sa ľudia začali zaoberať týmto problémom, znamená, že sme naozaj na dobrej ceste.”
Zdroje: technologyreview | startstop.sk
