• Autor
• Knihy
• Bazar
• Životopis
• Citáty
• Diskuze

Nové komentáře u knih Nick Bostrom

Superinteligence

„Obsáhlá kniha napsaná jistě s upřímnou snahou o hlubokou, poctivou a vědecky založenou analýzu, ze které se pak snaží odhadovat budoucí vývoj. Nezůstává pouze u konstatování do určité míry subjektivně vnímaných trendů a odhadů, ale pokouší se o predikci podloženou daty a založenou na tradičních matematických modelech. Podle mého názoru to ovšem knize ve svém důsledku nakonec spíše uškodilo, protože zastarala rychleji, než musela. S odstupem deseti let od jejího napsání se pochopitelně situace posunula. AI (mimochodem, dnes by už asi nikdo nepoužil v českém překladu zkratku UI) již pronikla v praktické rovině do celé řady odvětví a hlavně, v určité podobě simulující komunikaci s člověkem formou psané řeči, se stala veřejně dostupnou, populární a prakticky využívanou. To pak následně také posunulo jak pohled veřejnosti na AI, tak i možné odhady více nebo méně pravděpodobných scénářů následujícího vývoje. Autor (jak už název knihy napovídá) se koncentruje na téma superinteligence. Tento termín používá pro určitý uměle vytvořený subjekt s vlastním myšlením - ve své podstatě podobný lidskému jedinci, ale s "inteligencí" vysoce přesahující lidské schopnosti. Filozofická otázka o podstatě života, myšlení a vědomí je od určité chvíle v těchto úvahách zásadní. Autor se jí spíše vyhýbá nebo se jí dotýká jen okrajově, ale tím se může stát, že některé jeho do hloubky propracované analýzy stojí na nejistých základech. Z některých úvah dýchají starší představy o "robotech" vládnoucích lidem. Některá témata jsou téměř mytizována. Styl je spíše novinářský (a autor se k němu také hlásí), ale přitom prodchnutý zdáním matematicky exaktního přístupu. Určitě je v pořádku upozorňovat na velká nebezpečí, která jsou s umělou inteligencí spojena. Pokud se tak ale činí tím, že mícháme žurnalistický a vědecký přístup dohromady, celé téma to může spíše znevěrohodnit. Hlavně z tohoto důvodu, čím déle jsem tuto knihu četl, tím větším zklamáním pro mě byla.“... celý text
— Padrn

---

Superinteligence

„Souhlasím s předchozími komentáři. Kniha je někdy náročná na pochopení (např. časté používání cizích slov), ale i tak je docela zajímavá. Řekl bych až vyčerpávajícím způsobem nastiňuje dobu, kdy světu budou vládnout stroje v podobě jedné, nebo více superinteligencí a autor se zamýšlí nad tím, jak takovou inteligenci stvořit, jak ji kontrolovat a co z toho vyplívá pro lidstvo.“... celý text
— Perseus

---

Superinteligence

„Velmi náročná kniha čtená pro studium vlastní AI sci-fi.“
— Jacinda

---

---

Superinteligence

„Více filosofická než technická kniha. Však také autor je původním vzděláním filosof (a taky matematik). Text je relativně složitý, autor se nezdráhá jít do podrobností, čtenáře – zájemce o vývoj AI – by to však nemělo odradit. V úvodních kapitolách je krátce shrnut dosavadní vývoj v oblasti umělé inteligence, různé filosofie přístupů k řešení problému, od 50. let minulého století po současnost. Následně autor zvažuje různé metody vzniku přirozené, lidské, superinteligence. Za mě pravděpodobně nezajímavější část knihy. Probírá a hodnotí metody od prosté a neúčinné eugeniky, přes selekci embryí dle požadovaných vlastností po cílenou manipulaci s DNA (hle, CRISPR!). Odhaduje, jak jsou jednotlivé metody účinné, jaký by měli teoretický přínos (myšleno zvýšení IQ v čase). Analyzuje možnosti vzniku kolektivní superinteligence globálním zvyšováním průměrného IQ (a samozřejmě s tím spojeného zvýšení extrémních hodnot v pravé části grafu normálního rozdělení), tedy svět, kde, autorovými slovy, bude průměrná inteligence na úrovni Turinga a von Neumanna, a extrémy budou ještě mnohem dále. Zbytek knihy je již plně věnován strojové umělé inteligenci. Detailně se zamýšlí nad filozofickým, společenským a kulturním dopadem AI, prozkoumává možnosti AI převzít vládu nad světem, schopnosti a motivace (natolik, jak je to lidským mozkem možné prozkoumat). Detailně rozebírá tzv. zvrácené plnění cíle. Prozkoumává množství oblastí spojených s vývojem a „provozem“ AI. Technologickou singularitu, problémy s učením, řešení úkolů, rizika pro lidstvo, vč. rizika úplného vyhlazení lidstva vlivem zvráceného splnění úkolu (známý „maximalizátor“ výroby kancelářských sponek). Text se snaží hledat odpovědi na otázky, často však víc otázek vyvolává, než na kolik jich odpovídá. A když odpovídá, tak neurčitě, stylem „mohlo by …“. Je to pochopitelné, lidská mysl, jakkoliv geniální, může jen stěží odhalit, po jakých cestách se bude ubírat mysl superinteligentní, nadlidská, vše v knize uvedené jsou, již z definice, spekulace. Bezpochyby důkladně promyšlené a detailně vyargumentované, přesto stále spekulace. Přes neurčitost textu však nelze podceňovat enormní dopad, jaký bude mít vypuštění obecné umělé inteligence do lidského světa, pokud k němu dojde. Rizika lze pozorovat již nyní, v zárodcích, ve specializovaných „jednoúčelových“ AI nástrojích, jako jsou vyhledávací algoritmy, identifikační algoritmy, různé evoluční prohledávací programy (např. návrh elektronických obvodů, vývoj umělých antibiotik). O jak mocný nástroj v rukou nadnárodních korporací a vlád jde, nás denně přesvědčují giganti jako Google, Facebook, Čína, americká NSA, … Problém s podobnými knihami je ten, že informace v nich dost rychle zastarávají, zvlášť s ohledem na překotný vývoj AI v posledních několika letech. Pokud si tedy knihu chcete přečíst, což jednoznačně doporučuji, učiňte tak raději dříve než později. Originál je z roku 2014, za těch pět let se vývoj AI dramaticky posunul, některé informace jsou již zastaralé, za dalších pět let bude kniha, troufám si tvrdit, z větší části nepoužitelná. Možná pouze jako přehled historických konceptů nebo teoretický základ pro začátečníky. Přesto rozhodně doporučuji.“... celý text
— thorir

---

Superinteligence

„Dílo nepochybně náročné, na pomezí computer science a filozofie. Přelouskával jsem jej hodně dlouho a to se tématem strojového učení zabývám. Je třeba ocenit autorův obrovský rozhled v problematice. Nicméně celkově mi kniha přijde jako trochu věštění z koule. Je tam naznačeno mnoho scénářů, jak by se vývoj mohl ubírat, ale ze zkušeností z minulosti většinou různé extrapolace zrovna moc nevycházejí. A navíc autor často píše, že by superinteligence pravděpodobně přišla s jiným řešením, na které primitivní lidské mozečky nemají šanci přijít. Navíc je poměrně velká část odborníků skeptická k tomu, zda vůbec může něco jako obecná umělá inteligence vzniknout. Trochu otravný je rovněž obrovský poznákový aparát, který zabírá skoro čtvrtinu celé knihy. Nevím, proč by to bylo možné buď zařadit přímo do textu, nebo vynechat. Ale to neustálé přeskakování na konec knihy...“... celý text
— Dejvid