Nick Bostrom
švédská, 1973
Nové komentáře u knih Nick Bostrom
Superinteligence
„Souhlasím s předchozími komentáři. Kniha je někdy náročná na pochopení (např. časté používání cizích slov), ale i tak je docela zajímavá. Řekl bych až vyčerpávajícím způsobem nastiňuje dobu, kdy světu budou vládnout stroje v podobě jedné, nebo více superinteligencí a autor se zamýšlí nad tím, jak takovou inteligenci stvořit, jak ji kontrolovat a co z toho vyplívá pro lidstvo.“... celý text
— Perseus
Superinteligence
„Velmi náročná kniha čtená pro studium vlastní AI sci-fi.“
— Jacinda
Superinteligence
„Více filosofická než technická kniha. Však také autor je původním vzděláním filosof (a taky matematik). Text je relativně složitý, autor se nezdráhá jít do podrobností, čtenáře – zájemce o vývoj AI – by to však nemělo odradit. V úvodních kapitolách je krátce shrnut dosavadní vývoj v oblasti umělé inteligence, různé filosofie přístupů k řešení problému, od 50. let minulého století po současnost.
Následně autor zvažuje různé metody vzniku přirozené, lidské, superinteligence. Za mě pravděpodobně nezajímavější část knihy. Probírá a hodnotí metody od prosté a neúčinné eugeniky, přes selekci embryí dle požadovaných vlastností po cílenou manipulaci s DNA (hle, CRISPR!). Odhaduje, jak jsou jednotlivé metody účinné, jaký by měli teoretický přínos (myšleno zvýšení IQ v čase). Analyzuje možnosti vzniku kolektivní superinteligence globálním zvyšováním průměrného IQ (a samozřejmě s tím spojeného zvýšení extrémních hodnot v pravé části grafu normálního rozdělení), tedy svět, kde, autorovými slovy, bude průměrná inteligence na úrovni Turinga a von Neumanna, a extrémy budou ještě mnohem dále.
Zbytek knihy je již plně věnován strojové umělé inteligenci. Detailně se zamýšlí nad filozofickým, společenským a kulturním dopadem AI, prozkoumává možnosti AI převzít vládu nad světem, schopnosti a motivace (natolik, jak je to lidským mozkem možné prozkoumat). Detailně rozebírá tzv. zvrácené plnění cíle. Prozkoumává množství oblastí spojených s vývojem a „provozem“ AI. Technologickou singularitu, problémy s učením, řešení úkolů, rizika pro lidstvo, vč. rizika úplného vyhlazení lidstva vlivem zvráceného splnění úkolu (známý „maximalizátor“ výroby kancelářských sponek).
Text se snaží hledat odpovědi na otázky, často však víc otázek vyvolává, než na kolik jich odpovídá. A když odpovídá, tak neurčitě, stylem „mohlo by …“. Je to pochopitelné, lidská mysl, jakkoliv geniální, může jen stěží odhalit, po jakých cestách se bude ubírat mysl superinteligentní, nadlidská, vše v knize uvedené jsou, již z definice, spekulace. Bezpochyby důkladně promyšlené a detailně vyargumentované, přesto stále spekulace.
Přes neurčitost textu však nelze podceňovat enormní dopad, jaký bude mít vypuštění obecné umělé inteligence do lidského světa, pokud k němu dojde. Rizika lze pozorovat již nyní, v zárodcích, ve specializovaných „jednoúčelových“ AI nástrojích, jako jsou vyhledávací algoritmy, identifikační algoritmy, různé evoluční prohledávací programy (např. návrh elektronických obvodů, vývoj umělých antibiotik). O jak mocný nástroj v rukou nadnárodních korporací a vlád jde, nás denně přesvědčují giganti jako Google, Facebook, Čína, americká NSA, …
Problém s podobnými knihami je ten, že informace v nich dost rychle zastarávají, zvlášť s ohledem na překotný vývoj AI v posledních několika letech. Pokud si tedy knihu chcete přečíst, což jednoznačně doporučuji, učiňte tak raději dříve než později. Originál je z roku 2014, za těch pět let se vývoj AI dramaticky posunul, některé informace jsou již zastaralé, za dalších pět let bude kniha, troufám si tvrdit, z větší části nepoužitelná. Možná pouze jako přehled historických konceptů nebo teoretický základ pro začátečníky. Přesto rozhodně doporučuji.“... celý text
— thorir
Superinteligence
„Dílo nepochybně náročné, na pomezí computer science a filozofie. Přelouskával jsem jej hodně dlouho a to se tématem strojového učení zabývám. Je třeba ocenit autorův obrovský rozhled v problematice. Nicméně celkově mi kniha přijde jako trochu věštění z koule. Je tam naznačeno mnoho scénářů, jak by se vývoj mohl ubírat, ale ze zkušeností z minulosti většinou různé extrapolace zrovna moc nevycházejí. A navíc autor často píše, že by superinteligence pravděpodobně přišla s jiným řešením, na které primitivní lidské mozečky nemají šanci přijít. Navíc je poměrně velká část odborníků skeptická k tomu, zda vůbec může něco jako obecná umělá inteligence vzniknout.
Trochu otravný je rovněž obrovský poznákový aparát, který zabírá skoro čtvrtinu celé knihy. Nevím, proč by to bylo možné buď zařadit přímo do textu, nebo vynechat. Ale to neustálé přeskakování na konec knihy...“... celý text
— Dejvid
Superinteligence
„Nelze nic jiného než doporučit, první kapitoly jsou velmi čtivé, posléze je autor asi až příliš odborný/vědecky zaujatý/konkrétní (ne každý tyto kapitoly ocení). ALE (velké ale, opravdu!), tato kniha je základním kamenem/odrazovým můstkem pro většinu aktuálních otázek, respektive otázek, které řešíme již 100vky a více let, ale nejspíše nebudeme řešit příliš dlouho...“... celý text
— Fox83
