Superinteligence
Nick Bostrom
https://www.databazeknih.cz/img/books/34_/340138/bmid_superinteligence-P4j-340138.jpg
4
29
29
Mnozí si dnes kladou otázku, zda umělá inteligence překoná v dohledné budoucnosti tu lidskou, a pokud ano, jaké to bude mít důsledky. Budeme umělou inteligenci, která si je vědoma sama sebe, ještě schopni kontrolovat? Bude naším spojencem? Nebo nás nebude už potřebovat, a může nás tudíž chtít zničit? Vznikne nový „živočišný“ druh, který bude kombinací člověka a jím vyvinuté umělé inteligence? Na tyto a další otázky se pokouší odpovědět monografická kniha Nicka Bostroma. Autor nabízí nejprve historický přehled různých kroků, které vedly ke vzniku zárodků umělé inteligence, jakož i přehled toho, kde se vývoj umělé inteligence nachází dnes. Probírá jednotlivé druhy umělé inteligence – od počítačů až po nové formy, které by mohly kombinovat stroje s biologickou matérií. Předkládá rovněž komplexní přehled názorů odborníků na to, jakým směrem se bude vývoj umělé inteligence ubírat. V centru jeho pozornosti stojí otázka, zda může umělá inteligence – buď ve formě stroje, nebo v kombinaci s biologickými formami rozumu – napodobit fungování lidského mozku. Dokud toho umělá inteligence nebude schopná, bude z podstaty věci omezená. Lidský mozek má podle něj určité schopnosti, které postrádají ostatní formy nám známého biologického života. Na planetě Zemi to lidem dává dominantní postavení, které jim umožňuje mít převahu nad ostatními formami života, včetně těch vysoce inteligentních, jako jsou lidoopi. Bostrom varuje, že podobně jako přežití lidoopů nyní kvůli jen malé genetické výhodě lidí záleží na vůli lidí, může se stát, že pokud vytvoříme superinteligenci, která bude podobným způsobem nadřazena nám, stane se naše vlastní přežití závislé na ní. Naší výhodou však je, že to, zda učiníme krok k vyšší formě inteligence, než je ta naše, závisí na nás. To, že lidstvo dojde k bodu, kdy bude schopno uvést superinteligenci v život, je podle autora nevyhnutelné. Otázka zní, jak toto zrození superinteligence provést tak, aby nás v krátkém čase nezahubilo. Autor při tom nabízí různé scénáře možného vývoje. Klade si otázku, jakou bude mít superinteligence „motivaci“ pro svá rozhodnutí. V centru lidského chování stojí morální dilemata. Bude možné trvalé morální sebeomezení naprogramovat nějakým způsobem do umělé inteligence, která se bude schopna sama vylepšovat? Odpověď není zcela jistá, a Bostrom se proto zabývá několika možnostmi, jak by se lidstvo mohlo proti ztrátě kontroly nad umělou superinteligencí bránit. I zde ale naráží na dilemata, protože inteligence převyšující tu lidskou může být schopná takové naprogramované kontroly či mechanismy k jejímu sebezničení odhalit a obejít… Kniha je čtivá a přístupná nejen odborníkům, ale i širokému publiku. Její výhodou je, že se zabývá scénáři, jež mohou vyplynout z dalšího vylepšování technologií, které dnes používá v různých formách každé dítě.... celý text
Literatura naučná Věda
Vydáno: 2017 , ProstorOriginální název:
Superintelligence. Paths, Dangers, Strategies, 2016
více info...
Přidat komentář
Souhlasím s předchozími komentáři. Kniha je někdy náročná na pochopení (např. časté používání cizích slov), ale i tak je docela zajímavá. Řekl bych až vyčerpávajícím způsobem nastiňuje dobu, kdy světu budou vládnout stroje v podobě jedné, nebo více superinteligencí a autor se zamýšlí nad tím, jak takovou inteligenci stvořit, jak ji kontrolovat a co z toho vyplívá pro lidstvo.
Více filosofická než technická kniha. Však také autor je původním vzděláním filosof (a taky matematik). Text je relativně složitý, autor se nezdráhá jít do podrobností, čtenáře – zájemce o vývoj AI – by to však nemělo odradit. V úvodních kapitolách je krátce shrnut dosavadní vývoj v oblasti umělé inteligence, různé filosofie přístupů k řešení problému, od 50. let minulého století po současnost.
Následně autor zvažuje různé metody vzniku přirozené, lidské, superinteligence. Za mě pravděpodobně nezajímavější část knihy. Probírá a hodnotí metody od prosté a neúčinné eugeniky, přes selekci embryí dle požadovaných vlastností po cílenou manipulaci s DNA (hle, CRISPR!). Odhaduje, jak jsou jednotlivé metody účinné, jaký by měli teoretický přínos (myšleno zvýšení IQ v čase). Analyzuje možnosti vzniku kolektivní superinteligence globálním zvyšováním průměrného IQ (a samozřejmě s tím spojeného zvýšení extrémních hodnot v pravé části grafu normálního rozdělení), tedy svět, kde, autorovými slovy, bude průměrná inteligence na úrovni Turinga a von Neumanna, a extrémy budou ještě mnohem dále.
Zbytek knihy je již plně věnován strojové umělé inteligenci. Detailně se zamýšlí nad filozofickým, společenským a kulturním dopadem AI, prozkoumává možnosti AI převzít vládu nad světem, schopnosti a motivace (natolik, jak je to lidským mozkem možné prozkoumat). Detailně rozebírá tzv. zvrácené plnění cíle. Prozkoumává množství oblastí spojených s vývojem a „provozem“ AI. Technologickou singularitu, problémy s učením, řešení úkolů, rizika pro lidstvo, vč. rizika úplného vyhlazení lidstva vlivem zvráceného splnění úkolu (známý „maximalizátor“ výroby kancelářských sponek).
Text se snaží hledat odpovědi na otázky, často však víc otázek vyvolává, než na kolik jich odpovídá. A když odpovídá, tak neurčitě, stylem „mohlo by …“. Je to pochopitelné, lidská mysl, jakkoliv geniální, může jen stěží odhalit, po jakých cestách se bude ubírat mysl superinteligentní, nadlidská, vše v knize uvedené jsou, již z definice, spekulace. Bezpochyby důkladně promyšlené a detailně vyargumentované, přesto stále spekulace.
Přes neurčitost textu však nelze podceňovat enormní dopad, jaký bude mít vypuštění obecné umělé inteligence do lidského světa, pokud k němu dojde. Rizika lze pozorovat již nyní, v zárodcích, ve specializovaných „jednoúčelových“ AI nástrojích, jako jsou vyhledávací algoritmy, identifikační algoritmy, různé evoluční prohledávací programy (např. návrh elektronických obvodů, vývoj umělých antibiotik). O jak mocný nástroj v rukou nadnárodních korporací a vlád jde, nás denně přesvědčují giganti jako Google, Facebook, Čína, americká NSA, …
Problém s podobnými knihami je ten, že informace v nich dost rychle zastarávají, zvlášť s ohledem na překotný vývoj AI v posledních několika letech. Pokud si tedy knihu chcete přečíst, což jednoznačně doporučuji, učiňte tak raději dříve než později. Originál je z roku 2014, za těch pět let se vývoj AI dramaticky posunul, některé informace jsou již zastaralé, za dalších pět let bude kniha, troufám si tvrdit, z větší části nepoužitelná. Možná pouze jako přehled historických konceptů nebo teoretický základ pro začátečníky. Přesto rozhodně doporučuji.
Dílo nepochybně náročné, na pomezí computer science a filozofie. Přelouskával jsem jej hodně dlouho a to se tématem strojového učení zabývám. Je třeba ocenit autorův obrovský rozhled v problematice. Nicméně celkově mi kniha přijde jako trochu věštění z koule. Je tam naznačeno mnoho scénářů, jak by se vývoj mohl ubírat, ale ze zkušeností z minulosti většinou různé extrapolace zrovna moc nevycházejí. A navíc autor často píše, že by superinteligence pravděpodobně přišla s jiným řešením, na které primitivní lidské mozečky nemají šanci přijít. Navíc je poměrně velká část odborníků skeptická k tomu, zda vůbec může něco jako obecná umělá inteligence vzniknout.
Trochu otravný je rovněž obrovský poznákový aparát, který zabírá skoro čtvrtinu celé knihy. Nevím, proč by to bylo možné buď zařadit přímo do textu, nebo vynechat. Ale to neustálé přeskakování na konec knihy...
Nelze nic jiného než doporučit, první kapitoly jsou velmi čtivé, posléze je autor asi až příliš odborný/vědecky zaujatý/konkrétní (ne každý tyto kapitoly ocení). ALE (velké ale, opravdu!), tato kniha je základním kamenem/odrazovým můstkem pro většinu aktuálních otázek, respektive otázek, které řešíme již 100vky a více let, ale nejspíše nebudeme řešit příliš dlouho...
I přes některé příliš odborné a nezáživné části se v podstatě jedná o povinnou leč hororovou četbu.
Superinteligence
Obsáhlá kniha napsaná jistě s upřímnou snahou o hlubokou, poctivou a vědecky založenou analýzu, ze které se pak snaží odhadovat budoucí vývoj. Nezůstává pouze u konstatování do určité míry subjektivně vnímaných trendů a odhadů, ale pokouší se o predikci podloženou daty a založenou na tradičních matematických modelech. Podle mého názoru to ovšem knize ve svém důsledku nakonec spíše uškodilo, protože zastarala rychleji, než musela.
S odstupem deseti let od jejího napsání se pochopitelně situace posunula. AI (mimochodem, dnes by už asi nikdo nepoužil v českém překladu zkratku UI) již pronikla v praktické rovině do celé řady odvětví a hlavně, v určité podobě simulující komunikaci s člověkem formou psané řeči, se stala veřejně dostupnou, populární a prakticky využívanou. To pak následně také posunulo jak pohled veřejnosti na AI, tak i možné odhady více nebo méně pravděpodobných scénářů následujícího vývoje.
Autor (jak už název knihy napovídá) se koncentruje na téma superinteligence. Tento termín používá pro určitý uměle vytvořený subjekt s vlastním myšlením - ve své podstatě podobný lidskému jedinci, ale s "inteligencí" vysoce přesahující lidské schopnosti.
Filozofická otázka o podstatě života, myšlení a vědomí je od určité chvíle v těchto úvahách zásadní. Autor se jí spíše vyhýbá nebo se jí dotýká jen okrajově, ale tím se může stát, že některé jeho do hloubky propracované analýzy stojí na nejistých základech.
Z některých úvah dýchají starší představy o "robotech" vládnoucích lidem. Některá témata jsou téměř mytizována. Styl je spíše novinářský (a autor se k němu také hlásí), ale přitom prodchnutý zdáním matematicky exaktního přístupu. Určitě je v pořádku upozorňovat na velká nebezpečí, která jsou s umělou inteligencí spojena. Pokud se tak ale činí tím, že mícháme žurnalistický a vědecký přístup dohromady, celé téma to může spíše znevěrohodnit. Hlavně z tohoto důvodu, čím déle jsem tuto knihu četl, tím větším zklamáním pro mě byla.