11. října 2016 10:40 Lidovky.cz > Byznys > Auto

Koho má samořiditelné auto zabít?
Vědci pro to hledají etická pravidla

  • Poslat
  • Tisk
  • Redakce
  • 12Diskuse
Google představil plně automatizované automobily | na serveru Lidovky.cz | aktuální zprávy Google představil plně automatizované automobily | foto: Reprofoto
PRAHA/BOSTON Má auto raději přejet těhotnou ženu, nebo zabít svého řidiče? Umělá inteligence bude brzy postavena před doslova morální dilemata. Jak by je stroje měly řešit, se na základě online hlasování na webu Moral Machine snaží zjistit výzkumníci z amerického MIT. Jedním z nich je i Sohan Dsouza.

LN: Proč jste nechali o morálce aut bez řidiče hlasovat lidi na internetu?

Automobily řízené umělou inteligencí mohou zachránit v každodenním provozu spoustu životů tím, že předejdou dnes běžným řidičským chybám a nepozornostem. Jenže ne všem nehodám se dá vyhnout a občas bude stroj postaven před neřešitelnou situaci. Současné studie na toto téma se přitom dají spočítat na prstech jedné ruky a většinou staví jen na různých etických teoriích.

MORAL MACHINE

■ Vědci z Massachusettského technologického institutu (MIT) zkoumají, jak se mají zachovat samořiditelná auta v neřešitelných situacích. Například, zda přejet skupinu dětí, nebo nabourat do zdi a ohrozit život vlastní posádky.

■ Na webu Moral Machines vyhodnocují lidský pohled na podobná rozhodnutí. Každý může na adrese Moralmachine.mit.edu vyzkoušet, co by udělal právě on, a pomoci tak při výzkumu.

■ Výsledky internetového hlasování mají sloužit jako základ pro vývoj modelů umělé inteligence v samořiditelných automobilech blízké budoucnosti.

Do hry ale vstupuje řada dalších faktorů, jako jestli vzít v úvahu, že chodec vstoupil pod kola vozu v rozporu s dopravními předpisy. Nebo kdo ten chodec je, když jde třeba o těhotnou ženu.

LN: Nešlo by ale auta naprogramovat tak, aby se podobným situacím předcházelo?

To je opravdu těžké zajistit. Například i přes nejlepší snahu se nelze zcela vyhnout mechanické chybě. Pak je tu neopatrné chování chodců nebo řidičů jiných vozů. Třeba spící řidič náklaďáku, který přejíždí napříč pruhy. A ještě připočtěte faktory prostředí, jako jsou třeba spadlé stromy. To vše vás může dostat do takového dilematu.

LN: Měl by ale tyto situace rozhodovat stroj? Nemají prostě proběhnout tak, jak se udály?

To je ale přece přesně ta morální otázka, zda má stroj zasáhnout, nebo nezasahovat. Je zajímavé, že jsme skutečně zatím zjistili, že řada lidí dává přednost nezasahování a chtějí, aby „se věcem nechal jejich přirozený průběh“. A to dokonce i za cenu větších ztrát na životech.

Aplikace Moral Machine umožňuje lidem vcítit se do rozhodování robota. Má přejet chodce, nebo chránit posádku auta?

Aplikace Moral Machine umožňuje lidem vcítit se do rozhodování robota. Má přejet chodce, nebo chránit posádku auta?

LN: Máte už první výsledky vašeho průzkumu? Odpovídají v něm lidé konzistentně? Jaké situace jsou nejrozporuplnější?

Z toho, co jsme zatím analyzovali, vyplývá, že v některých částech světa dávají přednost záchraně co nejvíce životů na úkor ochrany pasažérů nebo chodců. V jiných je to ale naopak. Snažíme se v nasbíraných odpovědích nalézt co nejvíce podobných vzorců chování. Ale zatím nemůžeme zveřejnit podrobnější výsledky.

LN: Vaše studie nechává lidi dívat se na sporné situace z pohledu nezávislé třetí osoby. Nemůže to ale znamenat zkreslení odpovědí, protože člověk to ve skutečnosti uvidí poněkud jinak?

Bezpochyby se může každý, kdo bude do podobné situace přímo zapojený, rozhodovat jinak. Jenže etika není to, co budete mít zrovna v takové chvíli na mysli; to spíš zájmy své a svých blízkých. Protože se ale snažíme přijít s co nejširší shodou napříč společností, položili jsme otázky v perspektivě nezúčastněného pozorovatele.

LN: Nebojíte se přitom, že se lidé budou identifikovat s účastníky těch situací? Například hlasující matka by mohla mít větší motivaci chránit děti, protože si na jejich místě přirozeně představí své vlastní?

Určitá míra subjektivity se v osobním rozhodování morálních otázek projeví vždy. Ale to není nutně přímo špatně. Názory matek mají přece také svou váhu.

LN: Je teoreticky možné, že by někdo v budoucnu morálku samořiditelných aut zneužil? Třeba kdyby tři těhotné ženy záměrně skočily pod jeho kola, aby ohrozily život řidiče?

Dokonce i takové možnosti jsme brali v úvahu. Především záměrné zkřížení cesty automobilu, aby se vyboural, se může stát – a bohužel se také stává – i živým řidičům. Také si nemyslíme, že umělá inteligence, která podobné záměrné zneužití nerozezná, by pro to měla mít nějaké výjimky a zvláštní, snadno aplikovatelná pravidla.

Pravděpodobně bude brát v potaz ještě mnohem více věcí i mimo kontrolu někoho, kdo se jej pokusí zneužít. Do všeho budou pravděpodobně zapojena i vládní pravidla a regulace a dost možná i nějaké osobní výjimky řidiče.

LN: Jak by se měl váš průzkum promítnout do dalšího vývoje samořiditelných aut?

Vedle vstupních dat do modelů rozhodování umělé inteligence se snažíme také vyprovokovat veřejnou debatu. Především mezi výrobci aut, vývojáři a regulátory. Například podle posledních zpráv a oznámení amerického ministerstva dopravy máme za to, že náš výzkum se v této oblasti bere v potaz. A doufáme, že naše data a výsledky umožní lepší porozumění mezi světem technologií, úřadů a běžných lidí, řidičů.

LN: A jak očekáváte, že se to v praxi bude řešit?

Je to skutečně morální dilema, takže automobily se budou muset řídit podle různých předepsaných modelů rozhodování pro dané situace. Zásadní bude přitom i otázka odpovědnosti výrobců a pojišťoven. Předpokládáme proto, že na konci půjde o kombinaci názorů veřejnosti, zásad stanovených různými autoritami a také možná výjimek stanovených třeba řidičem samotným.

Jaký bude vypadat auto budoucnosti čtěte v magazínu Index, který vychází v úterních Lidových novinách!

Index LN vychází 11. 10. 2016.

Index LN vychází 11. 10. 2016.

  • 12Diskuse




REGISTRACE NA SERVERU LIDOVKY.CZ, NEVIDITELNÉM PSU A ČESKÉ POZICI

SMS Registrace

Diskuse LN jsou pouze pro diskutéry, kteří se vyjadřují slušně a neporušují zákon ani dobré mravy. Registrace je platná i pro servery Neviditelný pes a Česká pozice. více Přestupek znamená vyřazení Vašeho telefonního čísla z registrace a vyřazený diskutér se již nemůže přihlásit ani registrovat pod stejným tel. číslem. Chráníme tak naše čtenáře a otevíráme prostor pro kultivovanou diskusi.
Viz Pravidla diskusí. schovat

Jak postupovat

1. Zašlete SMS ve tvaru LIDOVKY REG na číslo 900 11 07. Cena SMS za registraci je 7 Kč. Přijde Vám potvrzující SMS s heslem.

2. Vyplňte fomulář, po odeslání registrace můžete ihned diskutovat

Tel. číslo = login,
formát "+420 xxx xxx xxx"
Kód ze SMS je rovněž heslo
Vaše příspěvky budou označeny Vaším jménem, např. K. Novák.
* Nepovinný.
Odesláním souhlasíte s Pravidly diskusí.

Najdete na Lidovky.cz