Přijdou roboti? Firmy nemohou sehnat pracovníky, omezují investice a sází na automatizaci |
Algoritmy, jež jsou využívány k předpovídání možnosti opakování trestné činnosti, si už dnes pomáhají soudci v některých státech USA. Soudci k nim mohou přihlédnout třeba při výměře trestu, když zohledňují možnost pachatelovy nápravy. Konečné rozhodnutí je však vždy na soudci.
Stále častěji slýcháme o umělé inteligenci jako o budoucnosti justice – nestranném, přesném a neúplatném soudci. Dosavadní vývoj tomu ale nenasvědčuje, hlavně protože, že umělá inteligence, jakožto software schopný autonomního rozhodování, se učí od okolního světa, v právu pak téměř výhradně od lidí a z dat jimi vytvořených. Její nestrannost se tak nedá zaručit. Může tak za své přijmout chybné postupy lidí, stejně jako jejich předsudky. Bylo již zaznamenáno několik případů právě v USA, kdy software vyhodnocující pravděpodobnost recidivy přisuzoval vyšší šanci na opětovné spáchání trestného činu Afroameričanům. To v důsledku mohlo vést k tzv. sebenaplňující předpovědi a k nezřídka neoprávněnému zaměření se na jednu skupinu obyvatelstva.
Působení umělé inteligence není ani v jiných společenských oblastech bez potíží. Případů, kdy se vymkla kontrole, je celá řada. Třeba chatovací robot Tay od Microsoftu stihl za 16 hodin fungování, po kterých byl ze zjevných důvodů vypnut, pochválit Hitlera, urazit feministky a několik účastníků konverzace. S ne úplatností umělé inteligence by to jakožto se systémem primárně nepotřebujícím hmotné statky sice mohlo být o trochu snazší, na druhou stranu se jejímu vývoji věnují převážně soukromé společnosti, které většinou nemají zájem na tom poskytovat zdrojový kód daného softwaru formou licence open-source. Možnost kontroly toho, na jakém základě autonomní systém provádí svá rozhodnutí a za jakým účelem, stejně jakožto míra jeho nezávislosti, je tak značně snížena.
Autoritu soudce robot nezíská
Jednou ze zásad trestního řízení je zásada bezprostřednosti, v rámci níž by mělo být přistoupeno k výslechu osob, zejména obžalovaného, poškozeného a svědků, přímo před soudcem, nikoli zprostředkovaně třeba skrze písemný záznam. To proto, aby mohl soudce posoudit, jakým způsobem se osoba chová, zda je nervózní, zrychleně dýchá či odvrací zrak, a zhodnotit tedy veškeré projevy, jež napomohou určení věrohodnosti výpovědi. Je otázkou, zda svěřit umělé inteligenci posuzování takto složitých projevů, když i detektor lži, exaktní přístroj, respektive výslech za použití detektoru lži, je považován za nepřípustný důkazní prostředek.
Přijmeme-li to, že je v pořádku, aby soudci přihlíželi k názorům umělé inteligence, jak zajistíme, že nebudou tíhnout k jejímu slepému následování a k porušování tohoto práva? Třeba v soudním senátu hlasují mladší soudci před staršími a předseda senátu jako poslední. To právě proto, aby nedocházelo k ovlivňování na základě autority. Jak by ale tomuto mohlo být předejito u umělé inteligence? A je eticky v pořádku svěřit rozhodování o lidských osudech komukoli jinému než lidem?
Základním lidským právem je právo na spravedlivý proces. Na soudce jsou i proto kladeny vysoké nároky – znalostní, etické i zkušenostní. Představa, že by totéž mohlo být vyžadováno po lidech umělou inteligenci vyvíjející, je v nejbližší době nereálná. Autonomní systémy mohou být ale v řadě odvětví, typicky v logistice a automobilovém průmyslu, skutečnou budoucností a nahradit v mnoha ohledech lidský faktor. Současný vývoj umělé inteligence v právu však směřuje k tomu, že by zde umělá inteligence, především v poskytování právních služeb, mohla být jen užitečným pomocníkem. V oblasti soudnictví se lze domnívat, že by její využití mohlo být vhodné třeba při vyhotovení písemného rozhodnutí, vydávání platebních rozkazů, ne však v procesu rozhodování samotném.
