Existential risk from artificial general intelligence – v českém překladu Existenční rizika vývoje umělé inteligence je stav, který opisuje hypotetickou situaci vyhubení lidské rasy umělou inteligencí.
Lidé v současné době dominují nad ostatními druhy. Je to hlavně vlastnostmi, které má lidský mozek a ostatní živočichové je postrádají.
Umělá inteligence
AI – Artificial Intelligence, momentálně nedosahuje kvalit, které by se mohly rovnat lidskému mozku. Poku by však AI v budoucnu předčil lidské vědomí, tak by se stal „super inteligencí“, která by měla přímá rizika na existenci lidí. Taková technologie se stává prakticky neovladatelnou. Vznikem „super inteligence“ by mohl snadno lidský život záviset na konání strojů.
Rizika jsou častým předmětem technologických debat. Hlavní etické dilema se nachází ve vštěpování lidských hodnot strojům, nevíme/nejsme schopni určit jaké dopady by měla AI s lidským vědomím. Nutno však dodat, že by takové stroje nepodléhaly únavě, stresu a dalším faktorům. Umělá inteligence by se mnohonásobně rychleji učila a dokázala by analyzovat přesněji data, která by jí byla poskytnuta.
Exploze inteligence
V roce 1965 britský matematik a kryptolog I. J. Good vytvořil koncept Exploze inteligence.
Nechť je ultra inteligentní stroj definován jako stroj, který může daleko předčít všechny intelektuální aktivity každého člověka, jakkoli chytrého. Protože konstrukce strojů je jednou z těchto intelektuálních činností, ultra inteligentní stroj by mohl navrhnout ještě lepší stroje; pak by nepochybně došlo k ‚exploze inteligence‘ a inteligence člověka by zůstala daleko pozadu. První ultra inteligentní stroj je tedy posledním vynálezem, který člověk kdy potřeboval vytvořit.
I. J. Good – Zdroj: https://intelligence.org/ie-faq/#WhatIsTheIntelligence
Rizika vývoje umělé inteligence
Pokud je vznik super inteligence možný, tak vzniká riziko, že by cíle AI byly v rozporu s lidskými hodnotami. To by mohlo mít za důsledek rozpad civilizace a přejít v technologickou apokalypsu. V případě existence super inteligence by bylo pouze na strojích, zdali by dovolily koexistování s lidskou rasou. V případě, že by se stroj mohl „cítit“ ohrožen; existuje hypotetická možnost zničení lidstva jakožto překážky strojům.
Neexistuje žádný přírodní zákon, který by mohl umělé inteligenci zabránit, aby byla schopna řešit komplexnější úlohy, než je schopen pojmout lidský mozek.
Závěrem
Stroje jsou již chytřejší než lidé v mnoha specifických úkolech: provádění výpočtů, hraní šachů, prohledávání velkých databází a další. To, co však dělá lidi výjimečnými, je jejich obecná inteligence. Umíme se přizpůsobit rychlým změnám, na které nás evoluce nemohla připravit. Dokážeme řešit problémy, na které náš mozek nebyl připraven. Lidé mohou dokonce vytvářet procesy, které produkují jejich vlastní inteligenci (kognitivní neurověda), a navrhovat nové druhy inteligence, jaké dosud nebyly, jakým je například i umělá inteligence.
