Hogyan dönt a robotautó, ha elkerülhetetlen a baleset?

Fotó: Kobal / Richard Cartwright

-

Még a filozófia sem rendelkezik jó válasszal a kérdésre. Ami van, azt pedig nem lehet leprogramozni.


Olvasta Asimovtól az Én, a robotot? Ha igen, akkor nagyjából el tudja képzelni, milyen problémák merülhetnek fel egy önállóan cselekedő robottal. Ha esetleg csak a filmet látta, amelyben Will Smith Audit reklámoz, akkor keresse meg a kötetet egy antikváriumban. Asimov mindegyik novellája gondolatkísérletként működik. Az egyre javuló robotokról újabb helyzetekben derül ki, hogy működésképtelenek, mert a beléjük kódolt parancsok nem elég egyértelműek. Mit tesz például a gép, amelyet arra programoztak, hogy minden emberi élet szent, amikor két embert fenyeget veszély?


Gyilkos robotokkal riogatás helyett filozófiáról lesz szó


A fenti kérdés a novelláskötet megjelenése óta eltelt hatvanöt évben nagyrészt arra volt jó, hogy unalmas szombat délutánokon és egyetemi órákon emberek filozofáljanak arról. Emberi életek megmentésére vagy kioltására alkalmas robotok nélkül nagyon nem kellett túlizgulni a témát. Az önmagukat vezető autók megjelenésével azonban hirtelen gyakorlativá vált a korábban elméleti kérdés. Abban a legtöbb kutató egyetért, hogy az autonóm autók biztonságosabbak lesznek, mint a gyakran kiszámíthatatlan, a képességeiket túlbecsülő emberi sofőrök. Veszélyhelyzet – például egy durrdefekt – viszont akkor is előállhat, ha a sofőr profi. Az a kérdés, mi fut végig a robot „agyán” egy ilyen szituációban.

Az amerikai University of Birmingham (UAB) elővette a Philippa Foot brit filozófus által felvetett villamosprobléma nevet viselő gondolatkísérletet, és készített belőle egy szavazást. A kérdést a következőképpen tették fel: ön egy vasúti váltó kezelője, bármelyik pillanatban befuthat az expresszvonat, de ahogy lenéz a sínekre, észreveszi, hogy egy öt gyereket szállító iskolabusz áll keresztbe azokon. A váltóval elterelhető a vonat egy másik vágányra, ahol viszont az ön gyermeke játszik, aki elkísérte a munkahelyére. Mit tesz?



Lehet még bonyolítani a kérdést

A kérdés megfogalmazása azért érdekes, mert így rögtön két erkölcsi problémát is felvet. Nem csak az öt ember és egy ember élete között kell dönteni, hanem az öt ismeretlen és egy rokon között is. Ez így már az egyik variánsa az eredeti, Foot-féle kérdésnek.


A villamosproblémából vannak még kicsit más típusú döntést igénylő változatok. Az első variánsban egy elszabadult villamos szerepel, amelyet csak egy nagy testtel való ütközés állíthat meg, mielőtt elgázolna öt embert. A szemlélő megfelelő helyzetben van, és van is a keze ügyében egy kövér ember, kérdés, hogy a villamos elé löki-e. A második verzióban egy kövér gazembert lökhetünk gondolatban a villamos elé. Végül van egy olyan változat is, amelyben egy másik villamoskocsival siklathatjuk ki az öt embert veszélyeztető járművet, viszont így egy kertjében alvó emberre borul a roncs.


A Volvo autói konvojban már tudnak maguktól menni, hamarosan pedig a teljes önállóságot is megtanulják


Az eredeti kérdést két filozófiai megközelítés, az utilitarizmus és a deontológia mentén lehet megoldani – mondja Ameen Barghi, az UAB-n végzett bioetikus. Barghi az egyetem győztes bioetikai vitacsapatának vezetője. A csapatnak a döntőben olyan – egyszerűbbnek tűnő – kérdéseket kellett megválaszolnia, mint hogy lehet-e engedélyezni egy olyan szert, amelytől az emberek szerelmesek lesznek egymásba. A döntőn az önjáró autók is szóba kerültek. Az volt a kérdés, hogy ha a kocsik biztonságosabban mennek maguk, mint emberi irányítással, akkor a kormány megtilthatja-e az embereknek a vezetést. Arra jutottak, hogy igen.

Az utilitarizmus a nagyobb összboldogság felé tör – mondja Barghi. Ha ennek szellemében programozzák az önmagukat vezető autókat, akkor egy mindenképpen balesettel végződő szituációt úgy oldanak meg, hogy minél kevesebb sérültje vagy halottja legyen. Még akkor is, ha a kocsi sofőrje is belehal a balesetbe. A deontológia szerint viszont vannak mindenképpen elkerülendő rosszak, ilyen például a gyilkosság. Ezt a logikát követve a gép nem számol szándékos gyilkossággal, hanem a sofőrt menti meg, ha teheti.


Nehéz lesz így autót csinálni

Az utilitarizmus sem nyújt teljese megoldást, két iskolája is van. A szabály utilitarizmus egyértelmű, a számok döntenek: ha mi vagyunk az egy ember a gondolatkísérletben, akkor nekünk bizony rossz. A tett utilitarizmus nem hisz az egyszerű, minden helyzetben működő szabályokban, minden helyzet egyedi elbírálást kínál. Ez utóbbit pedig leprogramozni lenne nehéz.

Az UAB cikkében szavazás is van, az olvasók eldönthetik, hogy a villamosos kérdésre melyik a jobb válasz. Eddig majdnem négyezren szavaztak, és a válaszadók 64 százaléka úgy gondolja, hogy egy ember életének feláldozása jobb, mint egy öt halottat eredményező baleset. Magyarországról eddig kilencen szavaztak, és egy kicsivel a „haljanak meg öten, mit kerestek rossz helyen” álláspont vezet.



2020-ban az autóknak is lesz jogosítványuk

Több cég ígéri, hogy pár éven belül vehetünk olyan autót is, amely nélkülünk is boldogul az utakon. A fejlesztést a Google kezdte el azzal, hogy a Pentagon DARPA nevű fejlesztési ügynöksége által kiírt robotautó-verseny győztes csapatát beköltöztette saját műhelyébe. Az első kocsikat még Toyota Prius hibridekből hackelték össze, később készült Audi TT és Lexus SUV változat is, de az utóbbi időben már teljesen saját dizájnokat is mutogatnak. A Google kocsijai már 2,7 millió kilométert vezettek le amerikai utakon. Ez alatt 12 balesetük volt, de a cég állítása szerint egyik sem az autonóm autók hibájából történt. A cég úgy számít, hogy 2020-ra lesz megvásárolható verzió az kocsijából. A fejlesztéssel és teszteléssel tölthető időre szüksége is van a cégnek, mert tavaly nyáron az autó még nem tudott rossz időben vagy veszélyes szituációkban manőverezni.


Más irányból érkezett a területre a Volvo: kocsijaiba annyi vezetéstámogató és sofőrsegítő funkciót épített be, hogy egy félautonóm autója már volt. A márka csúcsmodelljeiben lehet sávtartó automatika, le tudják magukat fékezni, ha gyalogos lép a kocsi elé. Az egyes alrendszerek extrának számítanak, és csak bizonyos körülmények között működnek. A lenti videón például azt nézhetik meg, milyen az, amikor a büszke tulajdonos elfelejti, mikor nem okos az autója.



A Volvo konvojban haladási teszteket már végzett spanyol utakon. A felvezető kocsit egy profi sofőr vezette, a mögé felsorakozott autó viszont magától követte. 2015 februárjában a cég bejelentette, hogy két év múlva megkezdi az autonóm autók tesztjeit száz kiválasztott vásárlóval. 2020-ra azt várja a cég, hogy megszűnnek a balesetek az utakon.


2020 lesz az éve annak is, hogy a Mercedes-Benz, a Nissan és a Tesla önvezető autói piacra kerülnek. A három cég egymástól függetlenül választotta ki az időpontot és ugyanarra az évre bökött. Ha nem sürgős most lecserélnie a kocsiját, azt az öt évet már fél lábon is kibírja, és utána bevásárolhat a jövőbe.