Nové video kanálu Akademie věd Zvěd, tentokrát o etice autonomních vozidel: 

„Až 95 % obětí nehod má na svědomí lidská chyba. Ten problém se nachází někde mezi sedadlem a volantem,“ staví Kopecký racionální argument pro co nejrychlejší zavedení dopravních prostředků, které by řídila umělá inteligence. Působí v oboru experimentální filozofie, který mimo jiné pomocí kvantitativních metod pomáhá rozkrývat morální dilemata, která vznikají, když programujeme autonomní řídicí systém.

Vozidla bez řidiče ani v budoucnu nebudou dokonale oddělena od ostatního pohybu na komunikacích, proto je třeba počítat s krizovými situacemi možných kolizí a modelovat jejich ideální řešení. Kopecký a další badatelé z Přírodovědecké fakulty Univerzity Karlovy a Centra Karla Čapka pro výzkum hodnot ve vědě a technologii chtějí svým výzkumem předcházet morální panice, která hrozí při vyloučení řidiče z procesu rozhodování. V rámci studie se ptali, které auto by si lidé radši pořídili.

První možností byl vůz se sobeckým softwarem, který v případě srážky primárně chrání posádku i za cenu větších ztrát na životech ostatních lidí. Druhou volbou altruistické auto, které vypočítá nejmenší možný počet ohrožených osob včetně těch uvnitř vozidla, a třetí možností auto konzervativní, které se nijak nerozhoduje a kalkulaci s lidskými životy neprovádí. „Zhruba 45 % řeklo sobecký, 45 % altruistický a zbylých 10 % ten konzervativní. Ale když jsme se zeptali, kdyby to bylo na první pohled viditelné, kterým typem softwaru je vaše auto vybaveno, tak se z třetiny sobců stali altruisté. Takže ta altruistická volba šla až k nějakým 60 %,“ vysvětluje Kopecký jeden z dílčích výsledků výzkumu, jehož hypotézou byla biologická teorie čestných signálů.

Froněk nedávno pro jeden český start-up navrhnul dobíjecí stanici pro elektromobily, ale budoucnost elektromobility vidí střízlivě.

Samořídicí osobní auta ale nejsou zdaleka jedinou cestou ve vývoji autonomních dopravních prostředků. Mladý designér Tomáš Chludil loni na Vysoké škole uměleckoprůmyslové ve své diplomce zpracoval návrh na tramvaj Urbi pro Prahu v roce 2030. Jeho tramvaj nemá řidiče, čímž se uvolnilo místo s výhledem u předního skla pro cestující. „Když se bavíme o autonomních autech, to jsou prostředky, u kterých je autonomie náročná. Ale u tramvaje je to strašně jednoduché, protože ta jezdí po kolejích,“ říká Tomáš, který se tramvajím věnuje už delší dobu, nejraději ale stejně chodí pěšky.

Michal Froněk, vedoucí ateliéru produktového designu na stejné pražské škole, je naproti tomu milovníkem klasických aut. Vzhledem k množství automobilů a znečištění ale počítá ve městech do budoucna s malými elektromobily. Podle statistik využíváme průměrně jen 1,5 místa v jednom pětimístném automobilu. Froněk nedávno pro jeden český start-up navrhnul dobíjecí stanici pro elektromobily, ale budoucnost elektromobility vidí střízlivě. „Když se dnes podíváte na výrobu baterií, suroviny získáváme třeba v Afganistanu, baterie vyrábíme například v Kanadě a elektromobily v Japonsku, takže když ten elektromobil doputuje až do Evropy, tak je jeho uhlíková stopa poměrně značná, a potom musí hodně dlouho jezdit na elektrickou energii, aby si to zasloužil,“ konstatuje Froněk.

Původně vyšlo na stránkách Radio Wave: https://wave.rozhlas.cz/autonomni-rizeni-jako-moralni-imperativ-proc-se-musime-v-autech-co-nejdrive-7719678?fbclid=IwAR3ZZxdG0VP_WcWf55HGF8RESCCYY9L8T7yPRcWN8T3sgfcms6f9NuFiYrk. Robin Kopecký je interním členem Centra Karla Čapka.

Existuje vůbec etika extrémních situací?

Musíme rozlišovat mezi etickou teorií a aplikovanou etikou. Etická teorie se pokouší systematickým způsobem odpovědět na otázky, co je morálně správné, co nesprávné, jaké jednání je přípustné či jaké zase zakázané. Aplikovaná etika je potom aplikací etické teorie na konkrétní problémy „z lidské praxe“. Většinou předpokládáme, že etickou teorii lze aplikovat i na situace, které jsou, jednoduše řečeno, hrozné a extrémní. Válka. Mučení. Trest smrti… Dokonce je tomu tak, že často etické teorie posuzujeme podle toho, jak se dokážou s těmito mezními situacemi vyrovnat.

Můžete to přiblížit?

Představme si, že máme etickou teorii říkající, že v určitých situacích můžeme zabít nevinného člověka. Představte si, že žijete v městečku, kde žijí starousedlíci a novousedlíci. Je mezi nimi velké pnutí. Tak, jak je to dneska na mnoha místech i v realitě. Jednoho dne se najde dcerka starousedlíků mrtvá, zavražděná. Starousedlíci chtějí vyjít do ulic, zabíjet novousedlíky a mstít se. V jejich hlavách za smrt dívky samozřejmě mohou novousedlíci, jak jinak. Šerif, řekneme, toho městečka si říká: Kdybych si vybral třeba starousedlíka Lišku, to je alkoholik a drobný kriminálník, a řekl bych, že ji zabil on, a popravil ho, tak se situace uklidní, ke střetu novousedlíků se starousedlíky nedojde a nebudou ztráty na majetku, zdraví a životech. Takovým způsobem může uvažovat zastánce teorie známé jako utilitarismus. My se ovšem můžeme a musíme ptát: Odpovídá ta teorie našim morálním intuicím? Je správné obětovat nevinného člověka, abychom zabránili mnohem větším problémům?

A máme v tom jasno?

Asi jak kdy a v čem. Například o morálních intuicích, jejichž výzkumem se zabývá například můj kolega Robin Kopecký z laboratoře prof. Flegra na Přírodovědecké fakultě UK, víme, že jsou poměrně stabilní a zas tak moc se stát od státu (či kulturu od kultury) neliší. Když se třeba zeptáte, zda smíme shodit člověka z mostu do cesty vlaky, který ho usmrtí a zastaví se, takže nezabije pět dělníků pracujících za mostem na trati, 68 procent Číňanů, 45 procent Rusů a 56 procent Američanů odpoví, že ne – to vypadá jako celkem univerzální odmítnutí utilitarismu. Tedy alespoň pro tento typ situace. Něco jiného jsou etické teorie, jejichž je více, a neshodujeme se na tom, která z nich je ta pravá. Ale to také moc velký problém není, protože se ve většině odpovědí shodují a liší se často právě jen v řešení oněch extrémních situací.

Takže je všechno v pořádku?

Já mám ohledně dnešní společnosti trochu jiné obavy. Myslím, že do ní stále více proniká iracionalita, pověrečnost, odmítání vědy. A to dokonce i na univerzitní úrovni. Nedávno mě opravdu vyděsila četba knihy Daphne Pataiové a Noretty Koertgeové Professing Feminism. Autorky zde podrobně dokládají, že se v USA z feminismu coby legitimní snahy o rovnoprávnost mužů a žen stala mužům nepřátelská ideologie, v jejímž duchu se na univerzitách studenti učí neúctě k jiným názorům, místo diskuse jsou vychováváni v aktivismu, zcela otevřeně se popírají výsledky moderní vědy, nejčastěji evoluční biologie. Tyto trendy jsou podle mne nebezpečné, protože o důležitých věcech – například o přípravě naší společnosti na autonomní vozidla – by měli rozhodovat odborníci, ne ideologové a aktivisté.

Nezbývá než souhlasit…

V etice máme různá použitelná řešení a odpovědi, ale společnost musí být zralá a připravená na to, že tato řešení jsou dobrá a přijímaná ve prospěch společnosti.

Představme si model. Silnice. Z levé strany má zeď, z pravé strany mohutný strom. Já jedu autem a řídím. Když jsem deset metrů před stromem, tak mi zpoza něj přímo pod chladič vběhnou dvě malé děti. Mám to píchnout do stromu a zabít se, nebo zabít ty děti? Co je etické?

Naštěstí si ve chvíli, kdy řídíme, tuto otázku neklademe. Jednáme instinktivně, podle programů, jež nás evoluce „naučila“. A pravděpodobně se těm dětem vyhneme, a to dokonce bez ohledu na to, jestli máme vzadu svoje vlastní dítě. To máme nějak naprogramované. Kdybychom nad tím přemýšleli, tak se dostaneme do problému. Pokud totiž použijeme teorii utilitarismu, tak je eticky správné jedině to, za minimalizuje újmu. Bez ohledu na to, čí újma to je. Představte si, že hoří dům a v tom domě je někdo vám blízký. Ale je tam také slavný vědec, který by mohl udělat spoustu dobrých věcí pro lidstvo. Vy máte přirozeně radši svou blízkou osobu. Podle utilitarismu to však nesmí hrát roli. My uvažujeme, jaký užitek z jednání vzejde v neosobní perspektivě. Takže máte podle klasické teorie utilitarismu etickou povinnost zachránit vědce. A v případě zmíněného stromu máte povinnost odhlédnout od toho, že jde o váš život. A dát přednost životu těch dvou dětí.

To mi přijde vcelku logické.

Po zavedení autonomních aut se sníží nehodovost asi o devadesát procent, počítač bude řídit bezpečněji než člověk. Nějaké nehody přesto budou. A pro ně musíme najít odpovědi. Vezměte například, že chcete, aby auta minimalizovala škodu. Když budou autonomní vozy rozhodovat mezi jedním řidičem a jedním chodcem, ať dají přednost řidiči. Kdyby ti chodci byli na silnici dva, tak ať raději obětují řidiče, protože počet mrtvých bude nižší. To se lidem líbí, ve výzkumech se ukazuje, že s takovým chováním autonomních aut souhlasí, myslí si, že je eticky správné. Když jim ale následně položíte otázku, zda by si ho koupili, odpovědí, že ne. Že by byli rádi, kdyby tím autem jezdili ostatní, ale oni sami by dali přednost jinému chování svého vozu.

Volili by raději strategii tank, kdy auto chrání řidiče?

Ano – když se to týká jejich vlastních životů. Když to berou abstraktně, neosobně, dají přednost tomu, aby se autonomní auto chovalo utilitaristicky. Kdyby se ale rozhodovali při koupi, tak si jednoznačně koupí auto, jež chrání především svou posádku. A zde vzniká vážné sociální dilema.

Ale to může nastat i v mnoha jiných situacích…

Samozřejmě. Řekněme, že lidé se mohou chovat buď jako altruisté, nebo jako egoisté. Představte si společnost, kde jsou všichni altruisté. Tak je pro vás nejvýhodnější být egoista, protože všichni ostatní jsou altruisté. Starají se o vás a vy na ně kašlete. Když jsou naopak všichni egoisté, budete také. Není to úplně super, ale kdybyste byl altruista, tak na tom budete ještě mnohem hůř – prostě beránek mezi samými vlky. Zdá se tedy, že vaše strategie je jasná: vždy být egoista. Pokud ovšem takto budou uvažovat všichni, tak dojde k tomu, čemu Hobbes říkal válka všech proti všem. Takže je pro všechny lepší být altruista, i když tím omezíme jakousi svou „absolutní svobodu“, například mou svobodu shodit vás z balkónu. Stejně tak totiž vy omezíte svou svobodu shodit z balkónu mne.

Jenže…

Vím, co chcete říct. Problém je v tom, že vy si můžete říci: Všichni jsou altruisté, protože uvažovali jako já. Tak já tedy budu egoista, protože když jím budu já, tak pro mě je to extrémně výhodné a zas tak moc se nestane, protože ostatní budou hodní altruisté. A to je právě to sociální dilema. Když je někde napsáno „Nechoďte přes trávník“, tak se v tomto momentě rozhodování egoisty řídíte myšlenkou, že jste jen jeden, a když tedy trávník přejdete, tak mu to nijak neublíží. A podobně je to s těmi auty: chceme, aby všude jezdila auta řídící se počtem obětí, sami si ale přejeme auto, které nám dá přednost před ostatními.

Zvažovala se v souvislosti s autonomními auty strategie „poslední spravedlivý“? Totiž že auto zabije toho, kdo porušil předpisy?

Tohle se, pokud vím, nezvažovalo. Diskuse o autonomních autech nechce vzbudit veřejné pohoršení. Česká republika se na jejich zavedení intenzivně připravuje, má na to na ministerstvu zvláštní komisi, protože přinesou prospěch celé společnosti. Kdybychom zavedli tuhle politiku, tak na to budou lidé zřejmě reagovat odporem a nebudou si taková auta kupovat, takže se hned tak neuchytí. Takže my, kteří tuto diskusi vedeme, se snažíme najít rovnováhu mezi prospěchem, jejž přinese automatizovaná doprava, a cenou, kterou za ni musíme zaplatit. Třeba tu, že v těch několika málo procentech situací se auta budou chovat jinak, než chceme.

Uvažovalo se někdy o tom, že by se autonomní auto v takové situaci řídilo losem?

Ne. Ale v jiné situaci ano. V situaci, kdy šlo o dárcovství orgánů. Ze zdravého člověka je možné získat celou řadu orgánů, takže jeho tělo může zachránit spoustu jiných lidí. Jednoduše: hodně užitku za jednoho mrtvého. Takže kdyby se zavedla loterie, kde by se losovalo, koho zabít na orgány, byl by jich na transplantace dostatek. A je mnohem pravděpodobnější, že životně důležitý orgán budete potřebovat – a díky loterii ho dostanete - , než že na vás padne ten špatný los a budete obětován. Takže to vypadá, jako by to byl super nápad. Ovšem lidé něco takového nechtějí dělat.

Tahle logika se někdy prosadila?

O něčem takovém se uvažovalo za druhé světové války. Když letěla peruť letadel bombardovat, měla vždycky nějaké procento ztrát. Statisticky se vypočítalo, že když budou na misi posílat jen polovinu bombardérů, ale s poloprázdnou nádrží – že se prostě nevrátí, ale unesou více pum –, tak budou nižší ztráty než v situaci, kdy o tom, kdo se vrátí rozhodovalo štěstí či náhoda. Šance individuálního přežití by byla větší. Ale lidé to nechtěli. I když je moje šance, že zemřu, v nějaké situaci vyšší, tak je pro mne důležité, že mám pocit, že se na svém osudu sám nějak podílím. Naše mysl prostě funguje tak, že nás v takových situacích statistické pravděpodobnosti příliš nezajímají.

Takže nejvíc nás děsí bezvýchodnost?

Bezvýchodnost. A zřejmě i – asi někdy iracionální – pocit, že věci jaksi nemáme ve vlastních rukou. Když nasedám do letadla, tak se bojím, když řídím auto, nikoli, přestože je větší šance, že zemřu při autonehodě. Kdybych to letadlo řídil, taky se tolik nebojím.

Zkusme si představit ten náš model – jedu, řídím, zpoza stromu vyběhne tentokrát jen jedno dítě. Koho je v naší civilizaci etičtější zabít?

Ono hodně záleží na té civilizaci. Kdybyste byl v Německu, tak vám tyhle úvahy zakážou vůbec vést. Protože mají za sebou určitou historii. Ale kdybychom měli věc analyzovat: To dítě má před sebou delší život, a někdo by proto řekl, že bychom měli dít přednost dítěti. Ale co kdyby to byl novorozenec? Platí to i pro něj?

Myslím, že záleží na tom, jak se mne ta situace osobně týká…

Jsou věci, jež někdo v abstraktní rovině teorií považuje za správné, ale lidé je nikdy nepřijmou. Někteří etikové, jako Peter Singer, říkají, že novorozenci nemají žádné právo na život. Má k tomu i teorii. Tvrdí, že právo na život má bytost, která si uvědomuje, že existuje a trvá. Že má nějaké „já“. Vy máte představu o tom, že žijete, rozlišujete předtím a potom a chcete žít. Ale on říká, že novorozenci tuhle představu nemají. Takže novorozence smí autonomní auto obětovat?

Tím se ovšem dostáváme velmi blízko k představě, že hodnota života není u všech lidí stejná.

V případě novorozenců dva vědci, Giubilini a Minerva, nedávno publikovali článek, kde mluví o takzvané postporodní aborci, postporodním potratu. Podle jejich teorie mají děti právo na to, aby s nimi nebylo zacházeno tak, aby je to bolelo. Ale nemají právo na život. Když je zabijí bezbolestně, tak je zabít mohou; a to třeba i z ekonomických důvodů. Autoři zde dotáhli Singerovu teorii do důsledku. Singer v jedné své knize říká, že dříve byla morálka založena na starých přikázáních, z nichž první znělo „všechny lidské životy mají stejnou hodnotu“. Singer ale věří v to, že v etice proběhla jakási koperníkovská revoluce, a nahrazuje toto přikázání svým novým „lidské životy mají různé hodnoty a podle toho se k nim můžeme chovat“. Novorozenec má jinou hodnotu než dospělý člověk, jinou má člověk v kómatu, jinou člověk s demencí.

Co mu udělali, když to publikoval?

Vůbec nic. To je to úžasné. V devadesátých letech měl mít přednášky v Německu a ve Švýcarsku, a tam postižení protestovali a zabránili mu tyto přednášky uskutečnit. Teď je profesorem na Princetownu a občas se tam konají demonstrace proti jeho názorům. Ale žádný akademický postih nebyl. A to, ani když na univerzitě někteří sponzoři vyhrožovali, že jí kvůli Singerovi stopnou dotace. Univerzita odpověděla, že je pro ni důležitější svoboda vyjadřování, a peníze oželela. Dokonce i jeden z největších kritiků, prof. Robert P. George z téže univerzity, se postavil za Singerovo právo na vlastní názor.

Mohlo by se něco takového stát v Česku?

Tady se stalo, že jeden nejmenovaný vědec publikoval článek, v němž psal o strašně specifické situaci tzv. zrůd. Nešťastný termín, ale byl to odborný článek a odborný časopis. Je to odborný výraz pro dítě, jež se narodí, ale morfologicky jako člověk moc nevypadá. Třeba kyklopie. Jedno oko uprostřed čela. Když už se narodí, je jejich život krátký a v podstatě se „nechají zemřít“. Tento vědec přišel s tezí, že by bylo humánnější je rovnou usmrtit. Druhá teze, velmi kontroverzní, ale ne zas tak nepochopitelná, kterou řekl, že by o tom neměla rozhodovat matka. Ta je v přílišném emočním vypětí a takové rozhodování by ji mohlo vážně poznamenat. Článek to nebyl moc kvalitní a byly s ním spojeny i jiné problémy, o to však nejde.

O co tedy?

Jde o to, že prakticky všechny české noviny zcela překroutily to, co onen člověk napsal, a nařkly ho, že je moderní doktor Mengele, jenž chce zabíjet postižené děti. A od nich se to rozšířilo do světa, Itálie, Německa, USA… Dotyčný přišel o všechny funkce, vyhodili ho z práce, z ústavu, který sám zakládal. Nikdo se ho v podstatě nezastal, jeho kariéra skončila.

Jak dlouho jsme před zavedením vraždících válečných robotů?

Takové stroje existují, ale zatím, pokud vím, rozhodnutí „pal“ činí nějaký člověk. Na terminátora si asi ještě nějaký ten čas počkáme.

A jak dlouho nás nechají roboti s umělou inteligencí naživu?

Dobrá otázka. Myslím si, že netušíme, kdy vznikne obecná umělá inteligence. Existují „částečné“ inteligence – porazí nás v šachu, budou lépe řídit auta. Někdo tvrdí, že autonomní automobily budou běžně k dispozici kolem roku 2027. Ale bod, kdy umělá inteligence vznikne, bude zřejmě nečekaný – a bude to jeden okamžik. Schopnosti umělé inteligence budou narůstat postupně, hromadit se a pak skokem vznikne inteligence převyšující ve všech ohledech tu naši – superinteligence. Zřejmě se začne chovat jako bytost mající vědomí, jež se stará o svoje bezpečí a reaguje. Nevíme, kdy to nastane. Ale až to nastane, tak to vidím pro nás lidi dost pesimisticky. Až ta bytost získá vědomí, které bude radikálně jiné než naše, tak nikdo nemá nástroje, jak určit, jak se bude chovat.