Pomáhat ale neubližovat, to jsou principy, kterými se dnes musí řídit každý robot i umělá inteligence. S technologickým rozvojem jsou to zároveň témata, která jsou pro odborníky stále aktuálnější. První „robotický zákoník“ slaví v březnu narozeniny. Tři zákony robotiky známe už 82 let.
Byl začátek roku 1942 a svět drtila druhá světová válka. Všechny strany konfliktu se předháněly v tom, kdo získá nad soupeřem technologický náskok. Přibývaly nové vynálezy, některé lidem usnadňovaly život, jiné budily hrůzu. Už tehdy bylo jasné, že technologie budou stále chytřejší a že je potřeba nastavit jim hranice, aby se pro lidstvo nestaly hrozbou. Uvědomoval si to i mladý spisovatel Isaac Asimov. V březnu 1942 vyšla jeho povídka Hra na honěnou, ve které formuloval své slavné Tři zákony robotiky a navždy tak ovlivnil svět moderní vědy.
Jak zní Tři zákony robotiky
Principy a pravidla, které se dnes při programování využívají jsou poskládané z rozsáhlého souboru specifických situací, na které musí umět stroj adekvátně reagovat. Základní principy ale zůstávají stejné a Tři zákony robotiky se pořád vyučují na školách. Asimov je formuloval takto:
- Robot nesmí ublížit člověku nebo svou nečinností dopustit, aby bylo člověku ublíženo.
- Robot musí uposlechnout příkazů člověka, kromě případů, kdy jsou tyto příkazy v rozporu s prvním zákonem.
- Robot musí chránit sám sebe před poškozením, kromě případů, kdy je tato ochrana v rozporu s prvním, nebo druhým zákonem.
I když spisovatelova úvaha vzbudila ve světě ohromný ohlas, sám Asimov byl velmi opatrný, pokud přišla řeč na téma autorství zákonů. Uváděl totiž, že zákony jsou vlastně jasné už od počátku a lidé je vždy podvědomě vnímali. Jeho přínos prý spočíval hlavně v tom, že je formuloval v krátkých větách. O to více pro něj musela být skličující úvaha, ke které dospěl ke konci své kariéry.
„Do současnosti jsem publikoval alespoň 20 milionů slov. Ale jsem přesvědčen, že ze všech těch milionů slov, která jsem publikoval, přežije dalších 100 let pouze 60. Těch 60, která tvoří Tři zákony robotiky,“ uvedl spisovatel v roce 1986 v talk show Harolda Hudsona Channera.
Etika robotů se stále vyvíjí
Formulování tří zákonů robotiky byl jen začátek. První pravidla se postupně snažili následovníci doplňovat a rozvíjet. Třeba bulharští sci-fi autoři jako Ljuben Dilov či Nikola Kesarovski se pokusili tři zákony rozšířit o další dva: „Robot se musí vždy prokazovat jako robot.“ a „Robot musí vědět, že je robot.“ Další myslitelé volali třeba po přesnější definici pojmů, nebo detailnějším rozpracování toho, co ve svém důsledku zákony znamenají.
Otázek, které ve světě robotické etiky přetrvávají ale zůstává mnoho. V posledních letech se navíc vývoj poprvé v historii začal dostávat do fáze, kdy je potřeba teoretické úvahy převést do praxe. Svět robotické etiky pohání teď dopředu hlavně rozvoj autonomních aut.
MIT v roce 2018 publikoval průběžné výsledky svého dlouhodobého projektu Moral Machine, ten zkoumá, jak by se lidé z celého světa zachovali, kdyby byli v pozici autonomního vozidla v momentech, kdy už není možné zabránit dopravní nehodě. Výsledky ukázaly, že i když lidé sdílejí společné hodnoty, při řešení konkrétních situací už se neshodnou. Poukázalo to na důležitou věc, základy, které položil Asimov sice platí, odpovědi na otázky, jak se mají roboty chovat v konkrétních situacích, ale ještě nemáme.
