A. Einstein, popularizace vědy a naučná literatura
TakySimona, jen mějte na paměti, že je to AI alarmismus. Podobné neodůvodněné strašení provozoval svého času i Hawking (na stará kolena zřejmě blbnoucí) nebo třeba Elon Musk. Už jen to slovo "superinteligence" je hodně senzacechtivé. Zatímco neurovědci se dodnes neshodnout jak inteligenci definovat, tak pseudovědci jako Bostrom nebo Musk už vědí, že superinteligence překoná tu lidskou ve všech ohledech. Je to neopodstatněné strašení
https://techcrunch.com/2017/07/19/this-famous-roboticist-doesnt-think-elon-musk-understands-ai/
Jaccku, do včerejška jsem neznala ani jméno toho člověka. Poslechla jsem si rozhovor s ním, přečetla ten okolostojící článek a shlédla přiložené video. A onen muž mě zaujal PRÁVĚ tím, že říká: Je třeba o těch možných rizicích přemýšlet už teď, když jsme na začátku cesty, která by jednou mohla vést k odpoutání AI od humanistických zájmů, na nichž ani nejsme schopni se shodnout.
Beru to jako nabídku: Hle, zde mé přemýšlení, pokud vás jeho téma z nejrůznějších (třeba i naprosto obskurních jako jsou ty moje, TakySimoniny) pohnutek zajímá, můžete porovnat mé zkušenosti a názory se svými.
Já můžu a proto chci. Nechci se v ničem utvrzovat, nechci se nechat strašit ani uklidňovat.
Před přečtením jeho knihy v českém překladu nechci nic předjímat.
Text příspěvku byl upraven 18.05.18 v 10:25
nelze srovnávat Turinga, což byl matematický a počítačový génius, který stál u zrodu počítačů a kybernetiky (spolu s jinými jako Heinz von Forester) s pisálky scifi literatury jako je Bostrom. Stačí se podívat na jeho publikace
https://www.fhi.ox.ac.uk/team/nick-bostrom/
samé zamyšlení se nad "etickými problémy AI" a žádná seriozní vědecká práce na poli AI. Tj někdo kdo si udělat kariéru na strašení. Každý kdo alespoň trochu chápe, jak primitivní ty současné AI algoritmy jsou, nebude nikdy tvrdit, že do 20 či 50ti let tu bude umělá inteligence převyšující lidskou. To že naučíme program hrát šachy líp než Kasparov neznamená, že ten program je jakkoliv inteligentní a je schopen přemýšlet mimo hranice té šachovnice. Ve skutečnosti je to primitivní algoritmus omezený jen na tu šachovnici. A takové jsou všechny tyto "umělé inteligence". Kdežto lidská inteligence je univerzální, schopna přemýšlet mimo rámce, hledat nové souvislosti atd. To je na hony vzdálené tomu, kde je výzkum AI dnes. Turingův test taky nic neznamená. Možná že AI je schopna ošálit někoho při běžné konverzaci, kdo netuší, že se jedná o počítač, ale neobstála by před někým, kdo ví jaké otázky klást. Navíc to že AI se naučít používat jazyk neznamená že tomu jazyku jakkoliv rozumí. Není o nic chytřejší než papoušek co opakuje lidská slova aniž by je jakkoliv chápal.
Jaccku, neodolám pokušení zeptat se:
Jakou otázku byste položil robotce Sophii?
Text příspěvku byl upraven 18.05.18 v 10:35
TakySimona, nepříklad ať mi vysvětlí rozdíl mezi dítětem a trpaslíkem, nebo ať vysvětlí, co to znamená, že jablko nepadá daleko od stromu, nebo co to znamená když se do lesa volá tak se z lesa ozývá. Samozřejmě jak se AI bude zdokonalovat, tak bude ve své databázi mít i odpovědi na běžná přísloví, to však neznemaná, že jim skutečně rozumí. Tj nejlíp je vymyslet něco podobného těm příslovím, kdy je třeba daným větám skutečně rozumět a zamyslet se nad nimi, aby člověk dokázal odpovědět správně. Nebo dát té AI nějakou metaforickou báseň, ať ji vysvětlí. Žádná AI toto nedokáže. Jsou to jen bezduché automaty a používat v souvislosti s nimi slovo inteligence je zavádějící.
"Zkus sem vložit nějakou podnětnou myšlenku k tomu, jak vypadá vývoj řídicích systémů vyvíjených pro autonomní zbraňové systémy. Jak vypadá vývoj rozhodovacích algoritmů, které dávají pokyn k použití té či oné zbraně v závislosti na konkrétních podmínkách? Jak vypadají/budou vypadat "kognitivní" schopnosti těch systémů z morálního hlediska, aby byly zachovány Ženevské konvence? "
---
všechny fungují na stejném principu. Tj. nejprve se lidé musí zamyslet, jaké situace mohou nastat, a pak tyto situace zakompovat do toho systému. Na základě vstupů pak takový systém vybírá z nějakého repertoáru chování, tj zcela deterministicky se rozhoduje. To platí pro samořídící auta stejně jako pro zbraňové systémy. Mluvit o etickém chování v souvislosti s těmi stroji nemá smysl o nic větší než mluvit o etice atomové bomby. Etiku mají pouze lidé, co ty stroje vyrábí. Ty stroje samy nejsou inteligentní. Jsou tak asi na úrovni podmíněných reflexů. V poslední době se na téma AI točilo hodně patetických hollywoodských filmů, počínaje Spielbergovým AI, Blade Runner, Ghost in the Shell, Ex Machina, Transcendence. Všechny mají společné to, jak příšerně naivně zobrazují tu AI, přisuzují jí lidské vědomí, lidské emoce, lidskou schopnost myslet. Prostě AI je teď modní výstřelek. Jenže takové nadšení roboty se tu cyklicky opakuje už od dob Frankensteina a ty samé typy fantastů nám tvrdí, jak umělé lidské bytosti jsou pár desítek let před námi. Ne, nejsou. Stovky let, pokud vůbec někdy.
Velmi vám děkuji, Jaccku, že jste tu otázku přijal. Já bych se Sophie zeptala, proč ji svědí za levým uchem. A pokud bych zaznamenala sebemenší pohyb její ruky směrem vzhůru, začala bych připouštět, že časem může i AI nabýt vědomí.
Píšu to v dobré víře ve váš smysl pro humor, tedy doufám, že vás mé kašpaření neurazí.
A až do toho ráno slíbeného komentáře si uděluju bobříka diskusního mlčení.
Mezinárodní astronomická unie ocenila redaktora ČT, pana Daniela Stacha, za jeho popularizaci vědy, a pojmenovala po něm planetku. Jeho příjmení ponese planetka číslo 93256, která obíhá v hlavním pásu mezi Marsem a Jupiterem. Její oběh kolem Slunce trvá čtyři a půl roku. Těleso objevili v roce 2000 v Ondřejově Petr Pravec a Peter Kušnirák.
http://www.ceskatelevize.cz/ct24/veda/2498221-daniel-stach-je-ve-vesmiru-po-moderatorovi-pojmenovali-planetku-mezi-marsem-a-jupiterem
Milý Lectore, píšu to sem do téhle tvé báječné vědecké diskuse, protože doufám, že by sis to snad tady mohl přečíst.... tedy, to, že doufám, že se sem někdy vrátíš. Zrušený profil jde obnovit, pokud to přehodnotíš, a je nás tu hodně, kdo tě rádi uvidíme zpět. V mezičase, než a pokud se zase objevíš, budeš nám chybět....
Jen tak, snad aspoň trochu pro potěšení a pohodu, přidávám kousek milované Teorie velkého třesku:
https://www.youtube.com/watch?v=VcE4dcqMPjQ
P.S.: Nenech se otrávit.... Posílám za tebou stařenku.
Pridavam sa k prispevku elfos. Verim, ze Lector prehodnoti a zmeni svoje rozhodnutie. Lector - velmi rada som Vas citala, v mnohom ste ma inspirovali a motivovali. Vdaka Vam, som si kupila knihy, na ktore ste poukazali. Patrite medzi tych ludi, ktori dokazu cloveka oslovit a svojimi vedomostami a skusenostiami obohatit tak, ako sa to stalo v mojom pripade. Nielen z tohto dovodu Lector, Vam patri moje - dakujem.
Milý Lectore, to nemyslíte vážně, nechat nás tu na pospas. Vlny se zčeřily, voda opadla a nyní poplujeme už jen na vodách klidných. Čekáme a těšíme se na kontakt s vámi. Tak honem k nám, nenechte nás čekat moc dlouho. Nedovolíte přeci, vy tak báječnej chlap, aby zloba zvítězila...no, nemám pravdu?
Text příspěvku byl upraven 27.06.18 v 12:17
Mily Lector - su dni, kedy je clovek stastny a velmi rad, ze sa mu splnilo jeho uprimne zelanie. Takymto stastnym dnom pre mna, je ten dnesny, vdaka Vasmu vcerajsiemu rozhodnutiu zmenit a dovysvetlit svoj postoj, ktory chapem a s ktorym sa stotoznujem. Vnimam Vas ako mudreho a scitaneho cloveka s rozhladom, od ktoreho sa ucim. Tesim sa na Vase dalsie hodnotne prispevky. Je mi ctou Vas opatovne citat :o)
Vložit příspěvek