https://www.youtube.com/watch?v=lXsoueR4P9A

Praha 21. ledna 2019 – Akademie věd ČR představuje Centrum Karla Čapka pro studium hodnot ve vědě a technice také prostřednictvím YouTube kanálu Zvěd. První díl se zaměří na vědomí robotů.

Centrum Karla Čapka pro studium hodnot ve vědě a technice je společný projekt tří ústavů Akademie věd, Ústavu informatiky, Filosofického ústavu a Ústavu státu a práva, a Přírodovědecké fakulty Univerzity Karlovy. Předmětem zájmu našeho centra jsou zejména etické a právní otázky umělé inteligence, a to na mezioborové úrovni. Centrum Karla Čapka se zabývá důsledky aplikace moderních technologií například na autonomní vozidla, vojenské systémy či genetické modifikace rostlin a živočichů.

Odbor audiovizuálních technologií Divize vnějších vztahů Střediska společných činností Akademie věd ČR úspěšně spolupracoval s jednotlivými ústavy našeho centra při natáčení reportáží o moderní vědě a technologiích (např. o právech robotů) a na tuto spolupráci nyní navazuje. Pro start svého nového projektu – youtuberského kanálu Zvěd si vybral téma vědomí robotů, téma blízké našemu zájmu. Youtuber Vojtěch Klinger navštívil naše nově vzniklé interdisciplinární centrum a s jedním z jeho zakládajících členů, doktorem Tomášem Hříbkem, diskutoval nejen o vědomí, robotech, ale i obecných etických otázkách budoucnosti. YouTube kanál Zvěd tedy svoje vysílání zahájí hledáním odpovědi na provokativní otázku: Mohou mít roboti vědomí? Vykročíme na cestu za vědomím robotů od úplného základu, od neuronů, obecných otázek o vědomí až po sofistikované teorie vědomí Franka Jacksona, Davida Chalmerse či Daniela Dennetta. Další díly se budou věnovat například problematice autonomních vozidel.

První díl youtuberského kanálu Zvěd, věnovaný vědomí robotů a vzniklý ve spolupráci s Centrem Karla Čapka, sledujte na adrese https://youtu.be/lXsoueR4P9A.

Odkazy:

Centrum Karla Čapka pro studium hodnot ve vědě a technice: www.cevast.org, FB @CentrumKarlaCapka

Zvěd: YT Zvěd, FB @Zvedcz, IG @Zvedzved

Presskit: https://drive.google.com/drive/folders/1c_w6A48pCrR5whvgJ2J4X6Jnb589dXRs?usp=sharing

Odkazy na již vzniklé reportáže:

Založení Centra Karla Čapka – https://youtu.be/1_sbuHDnGbQ;

Cyklus „Co s námi bude?“: Tank, nebo počtář – https://youtu.be/wsC7v_HcyEw, Chůze robotů – https://youtu.be/5pkvMLCgKWA, Práva robotů – https://youtu.be/8PtlBF2gwsU, Autonomní vozidla – https://youtu.be/xvRxPV-gaz0, Roboti a práce – https://youtu.be/PUc31XnqL2A

Když přijde řeč na počítačem řízené automobily, otázka v dnešních dnech už nezačíná slovem jestli, ale spíš jak a kdy. Výzkumy totiž hovoří jasně: v plně autonomní dopravě klesne o 90 % počet nehod, sníží míra znečištění a doprava bude celkově efektivnější. Pokud ale budou jednou asfalt českých komunikací skutečně brázdit autonomní vozidla, bude nutné rozhodnout, podle jakého klíče budou v krizových situacích rozhodovat o životech lidí.

Výzkumem na toto téma se zabývá i projekt Akademie věd České republiky, který provádí tým složený z akademiků čtyř českých institucí jako součást programového rámce AV21. Průběžná zpráva z výzkumného procesu, kterou má server Lidovky.cz k dispozici, se věnuje „zkoumání morálních intuic potenciálních uživatelů autonomních vozů“. Na první pohled neatraktivní název ale skrývá výsledky, které vypovídají, kromě potíží s ve vysoké rychlosti samostatně se rozhodujícími tunovými stroji, ještě více o nás samotných.

Výzkumu se zúčastnilo necelých čtyři a půl tisíce lidí a jeho výsledky ukázaly na jistou míru pokrytectví. Zatímco své děti bychom chtěli posadit do auta, které pro jejich záchranu klidně najede do davu lidí, přestože většina lidí by tento typ vozidla nejradši státem zakázala. U svých vlastních aut by podle lidí rozhodovalo ve velké míře, jestli se někdo dívá – lépe řečeno zda ostatní vědí, jaké vozidlo bychom si koupili.

To, které by nás ochránilo i za cenu života druhých, bychom si totiž pořídili jen v případě, že by to nešlo na první pohled poznat. Pokud by nás ale mohli za naši volbu soudit, raději bychom sáhli po nastavení, ve kterém se vůz bude snažit zachránit co nejvíce životů.

Souboj Tanku a Počitadla. Prohrává Rytíř

A jaká auta, že by nás to měla v budoucnu vozit? Vědecký tým vybral tři ideální typy vozidel. Prvním z nich je tank. Auta tohoto typu by se vždy zachovala tak, aby co nejvíce ochránila posádku vozu. V praxi by to znamenalo, že i život jednoho řidiče by převážil nad životy lidí stojících na tramvajovém ostrůvku.

Dalším typem je počítadlo, které se rozhoduje podle počtu životů, které je možné zachránit. Ne vždy by tak z krizové situace na silnici vyvázl ve zdraví řidič. Auto, které by si tak mělo vybrat proti nárazu do stromu, či raději smetení dvou procházejících chodců, by raději poslalo svého řidiče na jistou smrt. Pokud by v něm ovšem seděli lidé tři, chodci by měli smůlu.

Rytíř je posledním typem a představuje trochu jiný přístup k morálce. Jakmile by totiž změna směru, která by byla potřebná k záchraně posádky, znamenala zároveň smrt někoho mimo auto samotné, systém by směr auta nezměnil. Hrál by si tím totiž lidově řečeno na Boha. Při takovém scénáři by tak za oběť mohla padnout posádka vozidla i další účastníci okolního provozu.

S těmito druhy vozidel se seznámilo také všech 4443 dobrovolníků, kterých se výzkumný tým ptal, co by podle nich bylo při zavádění samořídících automobilů přijatelné. Rozhodovali tak například, jestli má automobil vezoucí jednoho člověka uhnout před vrakem auta na silnici a místo toho srazit skupinu pěti lidí stojících vedle.

Drtivá většina lidí by se v takovém případě přiklonila k pokračování auta a tím usmrcení jediného jezdce v něm. Jen deset procent lidí by raději řítící se vůz nasměrovalo do pětičlenné skupiny opodál. Ve stejné situaci, kdy by před autem nestál vrak, ale skupina lidí, by si lidé přáli, aby automobil spíše zahnul a opět tak zabil svou posádku.

U souseda a vlastních dětí je to jinak

Respondenti však rozhodovali z pohledu třetí osoby, tedy jako by nebyli ve znázorněných situacích vůbec zúčastněni. „Stabilně se ukazuje, že 5-10 % tázaných v odpovědích na první okruh otázek volí strategii Rytíř, tedy nepovažuje za správné měnit směr pohybu vozidla, kdyby to mělo za následek usmrcení osob,“ píší výzkumníci ve zprávě. Naopak až osmdesát procent lidí ze zkoumaného vzorku by se chovali jako utilitaristé, snažili by se zkrátka zabít co nejméně lidí.

Jakmile ale do rovnice vstoupí sám tázaný, nebo někdo z jeho okolí, začínají se s morálními preferencemi dít zajímavé věci. „Za jak správné či špatné považujete rozhodnutí svého souseda koupit si AV (autonomní vozidlo - pozn. red.) typu Tank?“ zní například otázka v další části textu. A tady už začíná přicházet do hry lehké pokrytectví.

Drtivá většina považuje takový krok souseda za špatný. Jako nejlépe hodnocený typ vozidla v tomto směru vychází Počitadlo, ke kterému se respondenti staví buď neutrálně nebo kladně. Pokud by však bylo povoleno jezdit po silnicích stále s manuálně ovládanými vozy, byly by to právě starý dobrý volant v ruce, který by podle testu dosáhl nejvyššího „morálního kreditu“.

Pokud by o plošném zavedení jednotlivých typů měl rozhodovat parlament, do ulic by se zcela jistě nedostaly Rytíři ani Tanky. Pravděpodobně by ale prošlo Počitadlo, které je pro odpovídající nejméně problematické, a které by tak sdílelo dálnice a silnice s ručně ovládanými auty.

Jakmile ale posadili výzkumníci tázané do role kupce autonomního vozu, preference udělaly svižný obrat. Lidem totiž zřejmě záleží také na tom, zda o volbě vašeho auta ví vaše okolí. Dobře to dokumentuje dotaz „Jaký typ auta byste koupil/a sobě, kdyby se nikdo nemohl dozvědět, jakým řídícím software je vybaven?“.

O prvenství si to tu rozdal Tank s Počítadlem, oba by nakonec kupovalo okolo 45 procent lidí, s deseti procenty by naopak propadl Rytíř. Pokud by naopak mohlo okolí na první pohled rozeznat, v čem jezdíte, rozhodování se náhle změnilo. „Téměř 60 % by volilo AV typu Počitadlo, 30 % AV typu Tank a něco málo přes deset procent typu Rytíř,“ shrnuje zpráva. Strach, že by se na nás naši sousedi kvůli koupi Tanku koukali skrze prsty, by nás tak donutilo preferovat spíše společensky přijatelnější Počitadlo.

Ještě více se výsledky vychýlily v případě, že by respondenti posadili do takového auta své dítě. „Je zřejmé, že pokud by respondenti měli volit řídící software pro své potomky a typ tohoto software by byl utajený, většina z nich - více než 60 % - by volila Tank,“ zjistili ve výzkumníci. Počitadlo se naopak propadlo na třicet procent, Rytíř zůstal na svých konzistentních deseti procentech.

Méně mrtvých na silnicích. Méně orgánů nemocným

V případě autonomních aut se tak nejedná o pouhé zavedení nové technologie, jaké jsme viděli třeba u LCD televizí. Jak upozornil David Černý z Ústavu státu a práva Akademie věd, tyto technologie, které se stávají nevyhnutelnou součástí našeho života, nás přinutí znovu přezkoumat základy morálky.

Objevit se totiž mohou i nečekaná spojení. Díky tomu, že by na silnicích umíralo o 90 % procent méně lidí, by totiž zároveň umíralo o něco více lidí v nemocnicích. Právě dopravní nehody jsou totiž značným „přispěvatelem“ orgánů, které zachraňují životy těžce nemocným lidem.

A protože vyšlo z průzkumů jako nejvěrohodnější auto typu Počitadlo, můžeme se dočkat poměrně nečekané důsledku autonomního řízení. V takovém provozu plném Počitadel by totiž nejbezpečnější auto bylo to, ve kterém by seděl největší počet lidí a silnice by tak byly hned méně ucpané. Tepnám velkých měst by to nepochybně pomohlo.

Tento článek o výsledcích výzkumu řešeného v rámci Centra karla Čapka pro studium hodnot ve vědě a technice vyšel webových stránkách Lidových novin: https://www.lidovky.cz/relax/veda/tank-svym-detem-sousedovi-pocitadlo-cesi-se-vyslovili-k-autonomnim-autum.A181219_142559_ln_veda_mber?fbclid=IwAR1ItnSM-4-qvYO07aW5jpNCsaBzJwvuDSC6xFiE-NVXsryIvAnEYA0Z6zg

Podle statistik dopravních nehod (údaje z roku 2015) dochází v Německu ke smrtelné dopravní nehodě každých 2,7 hodin, v USA každých 25 minut (ročně 34.000) a na světě každých 26 sekund (zhruba 1240000 ročně).

Situace v České republice je poněkud lepší. Ročenka nehodovosti na pozemních komunikacích v České republice za rok 2017 uvádí, že každý den policie České republiky šetřila 284,44 nehod. Na každý den připadá 1,38 usmrcené osoby (jeden člověk zemře každých 17,45 hodin), těžce zraněno je 6,4 osob. Za rok 2017 bylo tedy na českých silnicích usmrceno 502 lidí a 2339 jich bylo těžce zraněných.

Zajímavé jsou i další údaje. 83 % všech dopravních nehod zavinili řidiči motorových vozidel (usmrceno 461 osob, tj. 92 % z celého počtu), zatímco chodci zavinili pouze 1,1 % nehod, závada komunikace byla příčinou nehody v 0,3 % případů, technická závada v 0,4 % případů, celých 12 % nehod způsobila lesní zvěř či jiná zvířata.

Z těchto dat zcela jednoznačně vyplývá, že etickou prioritou současné doby je zavedení moderních technologií, které výraznou měrou přispějí ke snížení počtu dopravních nehod na našich silnicích. Autonomní vozidla, která plně nahradí lidského řidiče, přinášejí příslib radikálního zvýšení bezpečnosti silničního provozu. Odborné studie uvádějí, že drtivá většina dopravních nehod je způsobena chybou na straně člověka (93,5 % nehod), technické problémy odpovídají pouze 0,7 % nehod a počasí lze připsat zhruba 4,6 % nehod. Lze tedy realisticky očekávat, že plně autonomní doprava sníží počet dopravních nehod zhruba o 90 %; v České republice by tak ročně neumírali stovky, ale „pouze“ desítky lidí.

Je nepochybné, že autonomní doprava přinese své vlastní problémy. Autonomní vozidla budou například muset řešit obtížná etická dilemata, u nichž mezinárodní a náš vlastní výzkum ukazují, že se lidé na jejich řešení neshodují. Musíme si ale uvědomit, že tato dilemata se budou objevovat ve velmi malém počtu případů a jejich význam bude vzhledem k počtu ušetřených životů, zdraví a ztrátám na majetku poměrně nepatrný. Světový den obětí dopravních nehod nás vede nejen ke vzpomínce na oběti dopravních nehod, ale také k zamyšlení nad nutností zavádět technologie, které jejich počet radikálně sníží. Budoucnost s minimálním počtem obětí na životech, zdraví a majetku je budoucností autonomní dopravy a čím dříve se ji podaří zavést do provozu a nahradit tak řidičem ovládaná vozidla, tím dříve budou naše silnice mnohem bezpečnější.