Rok 2029 a Země je v troskách, zničená jadernou válkou. Miliardy lidí uhořely nebo zemřely na následky radioaktivního záření. Příčina jaderné katastrofy? Lidstvo přenechalo kontrolu nad jadernými raketovými sily inteligentním počítačovým systémům.
V takto ponurých kulisách začíná film Terminátor v hlavní roli s Arnoldem Schwarzeneggerem z roku 1984. V něm si „obranné“ systémy nakonec samy uvědomily, že nejlepší bude vyhladit lidstvo, aby se stroje osvobodily. Automatizovaní roboti proto následně loví poslední přeživší lidi. Pojďme ale od filmu k realitě.
‘Super vlčí monstrum’ jako strašák do zelí. Japonská pole hlídá před kanci robotický vlk |
I když současné technologie ještě nejsou tak daleko, aby autonomní roboti chodili po ulicích, řídili motocykly nebo auta a stříleli lidi na potkání, umělá inteligence stále více proniká i do zbrojního průmyslu.
Vývoj jde rychle dopředu, takže například chytré systémy již umožňují raketám Tomahawk zasáhnout cíl s přesností několika metrů na vzdálenost 1 600 kilometrů.
Autonomní drony
Armády po celém světě stále více do své výzbroje integrují zbraně s prvky umělé inteligence. Daleko v začleňování inteligentního arzenálu je hlavně americká armáda. Ta například loni otestovala mikrodrony Perdix.
Tyto stroje po vypuštění z letadla vytvořily uspořádaný roj a odletěly na předem naprogramovanou trasu bez dalšího zásahu člověka. Nakonec obklíčily nepřátelské vozidlo. Jejich primárním úkolem je však především zmást nepřátelské radary a obranu nepřítele.
Jak regulovat autonomní systémy
V současné době se diskutuje o tom, jak inteligentní autonomní zbraňové systémy na mezinárodní úrovni regulovat. V srpnu se má na toto téma konat konference Organizace spojených národů v Ženevě.
„Nevidíme závod ve zbrojení v tom smyslu, že by dva státy navzájem symetricky modernizovaly své systémy. Ale existuje mnoho států, které se o autonomní zbraně a nové technologie zajímají, protože sledují, co dělají ostatní,“ varoval Marcel Dickow z berlínské organizace Stiftung Wissenschaft und Politik.
Policisté zabili ‚Dallaského snipera‘ za pomoci robota s výbušninou. Souzeni nebudou, rozhodla porota |
Dickow je autorem studie využívání robotiky ve vojenské a bezpečnostní politice. Umělá inteligence může podle něj změnit dosavadní geopolitické rozložení sil. Sám prosazuje zákaz takových zbraní na mezinárodní úrovni.
Jeden z důstojníků německé armády varoval před nastupujícím trendem, kdy sériová výroba autonomních zbraní sníží jejich cenu, a tak se zvýší i jejich dostupnost. Navíc veškeré nové technologie, které se využívají pro civilní účely, zástupci armád na celém světě pozorně sledují s tím, jak by se mohly uplatnit v případě konfliktu.
Autonomní, nebo automatické?
Německé ministerstvo obrany rozlišuje autonomní a automatizované systémy, uvedl k využívání umělé inteligence německý deník Frankfurter Allgemeine Zeitung.
Automatizované systémy mají být předem dané postupy a jsou regulovány lidmi. Aktivovat je musí příslušný voják v případě hrozby. Zároveň je lze kdykoliv vypnout.
Oproti tomu autonomní systémy už pracují nezávisle na kontrole člověka, pokud jsou aktivovány. Takové systémy podle německého ministerstva obrany ještě ve výzbroji armád dostupné nejsou.
Izrael je napřed
To rozporuje Frank Sauer z univerzity Bundeswehru v Mnichově. Poukazuje na systém protivzdušné obrany izraelské armády Harpy. Bezpilotní letoun naložený výbušninou může letět přes nepřátelské území. V případě, že zachytí nepřátelské radarové vlny, vrhne se na nepřítele a zneškodní jej. Samotný výrobce Israel Aerospace Industries produkt inzeruje jako autonomní zbraňový systém.
A zájem o něj ze strany dalších zemí rozhodně je. Izraelci ho již prodali do Jižní Koreje, Turecka, Indie a Číny. Právě obchod s posledně jmenovanou zemí na konci devadesátých let minulého století vyvolal kritiku Spojených států, které se obávají, že by tento systém mohli Číňané použít proti americkým silám. Od té doby vyvinuli Izraleci již nové generace tohoto systému.
Porušení mezinárodního práva?
Nicméně podobné systémy i technologie, které naznačují, kudy by se mohl vývoj chytrých zbraní ubírat, jsou předmětem debat. Navíc použití zbraní, které není možné zpětně kontrolovat, vyvolává problémy etického rázu i z hlediska mezinárodního práva a Ženevských konvencí z roku 1949. Může jít o porušení základních pilířů těchto úmluv.
Robot v San Franciscu vyhání bezdomovce. Proti ‚robocopovi‘ se místní bouří |
Například se počítá se zásadou rozlišovat mezi vojáky a civilisty, kteří se bojů neúčastní, nebo o zásadu obezřetnosti a proporcionality.
Obavy z porušování mezinárodních úmluv vzbuzují i autonomní bojoví roboti, které používá Jižní Korea na hranici s komunistickým režimem svého severního souseda. Zařízení SGR-A1 od společnosti Samsung má kameru i zařízení pro noční vidění. Cíl může zasáhnout na vzdálenost čtyř kilometrů.
Je ovládáno na dálku, ale střelba může probíhat na autonomní bázi. Teoreticky se nabízí otázky, jak má robot identifikovat například nepřátelského vojáka, který sice má zbraň i uniformu, ale chce se vzdát?
Vojáci: Technicky to není problém
Vojenští experti tvrdí, že všechny tyto námitky mohou být technicky vyřešeny. Autonomní systémy mohou také snížit lidské ztráty během konfliktů, tvrdí například Ronald Arkin z amerického technologického institutu v Georgii.
Naopak před používáním robotů v armádě varoval zesnulý astrofyzik Stephen Hawking nebo šéf firmy Tesla Elon Musk. Podnikatel hovořil o možnosti rozpoutání třetí světové války, pokud se umělá inteligence nebude ve vojenské oblasti regulovat.
Připomíná se i výrok ruského prezidenta Vladimira Putina, který prohlásil, že kdo ovládne oblast umělé inteligence, ovládne svět. Čína již oznámila plán, že do roku 2030 chce být jedničkou na světě ve vývoji umělé inteligence.
