Esejistika

Superinteligence

Až budou stroje chytřejší než lidé

Mnozí si dnes kladou otázku, zda umělá inteligence překoná v dohledné budoucnosti tu lidskou, a pokud ano, jaké to bude mít důsledky. Budeme schopni umělou inteligenci vědomou si samu sebe ještě kontrolovat? Bude naším spojencem? Nebo nás nebude už potřebovat, a může nás tudíž chtít zničit? Vznikne nový „živočišný“ druh, který bude kombinací člověka a jím vyvinuté umělé inteligence? Na tyto a další otázky se pokouší odpovědět monografická kniha Nicka Bostroma.
Autor nabízí nejprve historický přehled různých kroků, které vedly ke vzniku zárodků umělé inteligence, jakož i přehled toho, kde se vývoj umělé inteligence nachází dnes. Probírá jednotlivé druhy umělé inteligence – od počítačů až po nové formy, které by mohly kombinovat stroje s biologickou matérií. Předkládá rovněž komplexní přehled názorů odborníků na to, jakým směrem se bude vývoj umělé inteligence ubírat.
V centru jeho pozornosti stojí otázka, zda může umělá inteligence – buď ve formě stroje, nebo v kombinaci s biologickými formami rozumu – napodobit fungování lidského mozku. Dokud toho umělá inteligence nebude schopná, bude z podstaty věci omezená. Lidský mozek má podle něj určité schopnosti, které postrádají ostatní formy nám známého biologického života. Na planetě Zemi to lidem dává dominantní postavení, které jim umožňuje mít převahu nad ostatními formami života, včetně těch vysoce inteligentních, jako jsou lidoopi.
Bostrom varuje, že podobně jako přežití lidoopů nyní kvůli jen malé genetické výhodě lidí záleží na vůli lidí, může se stát, že pokud vytvoříme superinteligenci, která bude podobným způsobem nadřazena nám, stane se naše vlastní přežití závislé na ní. Naší výhodou však je, že to, zda učiníme krok k vyšší formě inteligence, než je ta naše, závisí na nás. To, že lidstvo dojde k bodu, kdy bude schopno uvést superinteligenci v život, je podle autora nevyhnutelné. Otázka zní, jak toto zrození superinteligence provést tak, aby nás v krátkém čase nezahubilo. Autor při tom nabízí různé scénáře možného vývoje.
Klade si otázku, jakou bude mít superinteligence „motivaci“ pro svá rozhodnutí. V centru lidského chování stojí morální dilemata. Bude možné trvalé morální sebeomezení naprogramovat nějakým způsobem do umělé inteligence, která se bude schopna sama vylepšovat? Odpověď není zcela jistá, a Bostrom se proto zabývá několika možnostmi, jak by se lidstvo mohlo proti ztrátě kontroly nad umělou superinteligencí bránit. I zde ale naráží na dilemata, protože inteligence převyšující tu lidskou může být schopná takové naprogramované kontroly či mechanismy k jejímu sebezničení odhalit a obejít…
Kniha je čtivá a přístupná nejen odborníkům, ale i širokému publiku. Její výhodou je, že se zabývá scénáři, jež mohou vyplynout z dalšího vylepšování technologií, které dnes používá v různých formách každé dítě.