Abstrakt

Do třiceti let budeme mít technické prostředky, abychom vytvořili nadlidskou inteligenci. Krátce poté skončí lidská éra.

Je možno tomuto vývoji zabránit? Pokud ne, můžeme řídit běh událostí tak, abychom dokázali přežít? Úvaha se zabývá těmito otázkami a přináší možné odpovědi (i některá další nebezpečí).

Co je to Singularita?

Ústředním rysem tohoto století je zrychlování technického rozvoje. V tomto článku dovozuji, že jsme na pokraji změny srovnatelné s objevením člověka na Zemi. Vlastní příčinou této změny je to, že v brzké době vytvoříme bytosti [Pozn. překl.: V originále se mluví o "entitách". Protože v češtině je slovo "entita" mnohem méně běžné a pociťuji je jako termín se silně filozofickým podtextem, překládám raději jako "bytost".] s inteligencí vyšší než je lidská. Tohoto průlomu může věda dosáhnout více způsoby (a to je další důvod, proč si můžeme být jisti, že k tomu dojde).

• Mohou být vyvinuty počítače, které budou mít vědomí a nadlidskou inteligenci. (Doposud je sporné, zda můžeme vytvořit strojový ekvivalent člověka. Pokud však odpověď zní "ano", lze sotva pochybovat o tom, že krátce poté mohou být vytvořeny bytosti inteligentnější.)
• Rozsáhlé počítačové sítě (a jejich uživatelé) se mohou "probudit" coby bytosti s nadlidskou inteligencí.
• Propojení (interfejs) člověka s počítačem se může stát tak těsným, že uživatele bude možno považovat za tvory s nadlidskou inteligencí.
• Biologie může poskytnout prostředky pro zvýšení přirozené lidské inteligence.

První tři možnosti zásadně závisí na zdokonalení hardwaru počítačů. Rozvoj v této oblasti sleduje v posledních desetiletích stabilní křivku [17]. Na základě tohoto trendu věřím, že k vytvoření inteligence vyšší, než je lidská, dojde v průběhu následujících třiceti let. (Charles Platt [20] poukázal na to, že nadšenci pro umělou inteligenci - AI - vyslovují taková tvrzení už třicet let. Abych časové zařazení upřesnil, budu konkrétnější: Budu překvapen, stane-li se to před rokem 2005 nebo po roce 2030.)

Jaké bude mít tato událost důsledky? Až se nadlidská inteligence stane hybnou silou rozvoje, bude tento rozvoj mnohem rychlejší. Není vlastně žádný důvod, proč by tento rozvoj nevedl v ještě kratší době k vytvoření ještě inteligentnějších bytostí. Nejlepší analogie, která mě napadá, je evoluce v minulosti: Zvířata se mohou přizpůsobit problémům a dělat vynálezy, ale často ne rychleji, než pracuje přirozený výběr - v případě přirozeného výběru je svět svým vlastním simulátorem. My lidé jsme schopni obsáhnout svět a ve své hlavě analyzovat "co se stane když..."; mnoho problémů jsme schopni vyřešit tisíckrát rychleji než přirozený vývoj. Vytvoříme-li nyní prostředky, které budou takové simulace provádět mnohem rychleji, dostáváme se do režimu, který se od naší lidské minulosti bude lišit stejně jako my lidé od zvířat.

Z lidského hlediska bude tato změna znamenat odhození všech dosavadních pravidel, možná v jediném okamžiku, exponenciální lavinu vymykající se zcela jakékoli kontrole. K čemu jsme mysleli, že může dojít "za milion let" (pokud vůbec), to se pravděpodobně stane v příštím století. (V [5] Greg Bear kreslí obrázek závažných změn, které proběhnou během několika hodin.)

Myslím, že takovou událost můžeme směle nazvat singularitou (pro účely tohoto článku Singularitou s velkým "S"). Je to okamžik, kdy musíme odhodit své staré modely a začne vládnout nová realita. Čím více se budeme blížit tomuto okamžiku, tím více bude tato realita ovlivňovat naše záležitosti, dokud to nebude zcela zřejmé. Přesto až se to nakonec stane, může to být velkým překvapením a ještě větší neznámou. V padesátých letech tuto budoucnost vidělo jen velmi málo lidí - Stan Ulam [28] parafrázoval Johna von Neumanna: