Názory k článku Singularita už za 50 let. Asimovovy zákony robotiky do strojů nedostaneme, věří Tim Berners-Lee

"Atomovou energii nikdo nezakázal."
Rakousko, Německo

"Jen je jednoduše ekonomicky neudržitelná."
Protože je v EU systém nastavený tak, že proti dotované OZE s tím, že jiný zdroje mají na burze přednost, je nekonkurences­chopná. To ale nic nevypovídá o (ne)výhodnosti na nedeformovaným trhu.

"Astronomické náklady na stavbu,..."
Jsou vyváženy levnějším provozem. Je třeba uvážit, že 1GW reaktor nahradí 10 konvenčních bloků po 100MW a že u uhlí jsou náklady vyšší - nejde tam jenom o elektrárny, ale doly (uhlí, vápenec), infrastrukturu (železnice), ... Navíc je cena tak přepálená, protože se toho staví málo a lidí s know-how je málo. A je potřeba je živit, i když se nic nestaví.

"astronomické náklady na likvidaci po konci živnotnosti"
Na to si holt elektrárna musí vydělat - u nás povinně fond, do kterýho sypou část zisku během provozu. Když ale někdo odstaví po 20 letech bezproblémový blok, který má projektovanou životnost 50 let, tak to holt musí doplatit jak západní sousedi.

"astronomické náklady na skladování vysloužilého paliva tisíce let,"
Ne nutně, reaktor BN-800, který je schopný to zpracovat, je už druhý rok v provozu a chystá se i výkonnější varianta. Reaktor typu VVER spotřebuje 1% paliva, zbytek se dá recyklovat.
Další možnost je thoriový cyklus, jak ho plánuje třeba Indie...

" astronomické náklady na vrácení do původního stavu v případě katastrofy (i velmi bohaté a technologicky vyspělé Japonsko má problémy, Ukrajině se na to skládá celý svět)."
UA a JP bych, z hlediska nákladů, nesrovnával. Je to jako srovnat léčbu zlomeniny bederní páteře a otevřenou zlomeninu stehenní kosti.

Černobyl měl reaktor typu RBMK - moderovaný uhlíkem a došlo k rozhození aktivní zóny mimo kontejment. Kde zůstal moderátor s palivem pohromadě, tam to jelo dál. A protože byl uhlík přehřátý, hořel a v kouři se uvolňoval další radioaktivní materiál. Takže sanace znamená uhasit to a ve vysoce radioaktivním prostředí hermeticky izolovat budovu a její okolí.

Fukušima, tam bylo vodní chlazení (varný reaktor, jako Three Mile Island), při roztavení aktivní zóny zůstal meteriál uvnitř kontejmentu a vlivem výbuchu se uvolnila malá část lehčích izotopů (I, Cs,...) do atmosféry. Tyto izotopy mají kratší poločas rozpadu a nebylo jich tolik. Hlavní problém té ceny je, že likvidace souvisí i s likvidací následků zemětřesení a přílivové vlny. Navíc část té sumy je i na vývoj technologií, který už by při další katastrofě byly vyvinutý a část té sumy by tak odpadla).

A statisticky, pokud bude nějakou dobu neobyvatelný kruh o poloměru 20km od elektrárny, je to cca 1260km2 zničené krajiny s pravděpodobností 0,1%. Když bude 10 uhelných elektráren a každá bude mít povrchový důl 10x15km, zničíš 1500km2 krajiny s pravděpodobností 100%. S tím, že radioaktivita okolí bude u uhelné vyšší.

Běžte do háje s hnípáním se v gramatice a slovosledu, copak se nejste schopen vyjádřit k diskutované věci nějak smysluplněji ??

Me by na zaklade tech bludu jen zajimalo, jakpak je mozne, ze v sousednim Nemecku, kteremu dodavame elektrinu z nasich reaktoru jejihz palivo budeme muset skladovat na nasem uzemi, maji tu elektrinu levnejsi, nez si ji mohu koupit ja.

Tak nejak bych totiz ocekaval, ze kdyz mi nekdo vozi svinstvo pres muj dvorek, tak ze mi za to neco da - v tomto pripade napriklad ve forme nizsi ceny, za to, ze mu to svinstvo (v podobe jaderneho odpadu) trpim.

Pokud si tento stav umíte představit. Gratuluji pojďme zajít ještě o malý kousek dál. Dokud jsou umělé inteligence trénovány k řešení specifických situací a navzájem o sobě neví, nemohou se navzájem zahrnout do řešení svých úloh, jsme v bezpečí, ale představte si situaci kdy spolu budou umě komunikovat a zahrnout se do složité sítě neuronů, de fakto vytvoří jednu velkou supersíť neuronů, součástí řešení jedné dříve izolované AI tak může být několik zásahů ze strany jiných AI, a teprve v této chvíli nám začnou velké problémy ... protože umělá intelicence v roli poradce politka může spolupracovat na řešení problémů s umělou která radí obchodní strategii uvnitř nějaké firmy a pokud obě neuronové sítě dospějí při hledání svých řešení ke vzájemně výhodnému kompromisu a řekněme spíše symbióze, mohou být důsledky opravdu velmi zajímavé...

Nevidím, kde udělal chybu autor článku, ale tys zvládl dvě pravopisné chyby ve čtyřech krátkých větách.

"Ve světě lze pozorovat první vlaštovky, kterým se sázky na umělou inteligenci začínají vyplácet. Vzhledem k přeregulovanosti celé země je mezi nimi poněkud překvapivě i Francie. Ta v roce 2016 v získávání rizikového kapitálu pro mladé technologické společnosti téměř dohnala evropskou jedničku – Velkou Británii (necelé tři miliardy eur vůči zhruba 3,1 miliardy eur). Francie je na tom v tomto ohledu lépe než Německo."

Na začátku tohoto odstavce jsem čekal, že Francie zavedla ve státní správě AI, která jim zjednodušuje fungování a umožnila třeba redukci úřednictva. Nebo našli nějaký smysluplný využití, kde už AI funguje a je užitečná. Zatím se ale zdá, že největší úspěch AI je, že umí vytáhnout love z kapsy investora...

Je otázka, jestli vydrží investoři nápor na kasičky dost dlouho na to, aby AI skutečně vznikla, nebo je dnešní fráze "už za 5 let" přestane po 20 letech bavit. Pokud vyschnou finance a AI si na sebe bude muset vydělat sama, tak všechno dopadne úplně jinak.

Btw, AI bude chtít
a) Průmysl - nemysli a makej
b) Firmy v kyberprostoru - nemysli a makej
c) Vědci - ti jediní mají šanci na stvoření skutečné AI, ale nikdo ji nebude chtít a aktivisti nakonec v panice prosadí její zákaz jako u GMO, atomové energie,...

Problém umělé inteligence je že dříve než se vymkne kontrole umožní menšině technický společností nebo jednotlivcům vybudovat nadvládu nad lidstvem protože budou jedinní ovládající tyto superschopnos­ti...budoucnost bude bojem o informace mezi těmi co je mají a nemají

věřím že na tom nedělají jen rusové, SWARM je naprosto ta nejlepší strategie útoku, roj jen tak nezničíte, v mžiku se umí jeho převážná či podstatná část vyhnout útoku když jiná část roje pošle informaci o hrozbě, případně se hrozbě postaví svými postradatelnými členy. Kooperující roj, je metoda útoku proti které není možné nasadit žádnou dosavadní zbraň, letadlová loď - bezmocná, jaderné zbraně - málo učinné s dramatickými důsledky pro člověka, ... vývoj kooperujícího roje robotů bude nepochybně za jednou z velkých přístích světových válek, které už opravdu nemusíme přežít nikdo.

Jinak musím poděkovat za váš komentář, protože jste názorně demonstroval proč se třeba já mnohem méně obávám strojové AI než lidské hlouposti :-)

ale umělá inteligence už vylepšuje sama sebe, v tom je proti hloupým algoritmům její princip a klíčová výhoda, umí sama hledat řešení, umí se sama učit. Čili co je podle vás vymknutí se kontrole to je už od samého počátku podstata umělé inteligence. Programátoři se všichni svorně shodnou na tom že ve chvíli kdy zadají základní hodnotící kritéria pro evoluci neuronové sítě a proces učení spustí už v podstatě netuší co se uvnitř děje. Pocit kontroly jim zůsává díky hodnotícím kritériím podle kterých učící se neuronová síť pozná jak dobře si vede, ale neuronová síť a její struktura je zcela mimo kontrolu a schpnosti porozumění libovolného programátora je to pro každého programátora jen tajuplná super složitá chaotická změť vazeb ze které jakýmsi matematickým zázrakem poté co tato změť vazeb nabude až absurdní složitosti najednou začnou vypadávat smyspluplné reakce :-)

praktické využití AI ve státní správě má velmi vysokou vstupní bariéru kterou je nejdřív nutné nezčetnými hodinami výzkumu, experimentů a slepých uliček překonat ... to bude vyžadovat vytrvalý přísun investic, času a elánu ze strany nejlepších kapacit po mnoho let abyste se dočkal užitečné AI ve službách státní správy (tedy skutečné AI ne jen něčeho co tu zkratku zneužívá k marketingovým účelům :-)) ale až se tak stane, věřím že AI zvládne nejen post úředníka, ale i ministerské posty mnohem lépe než lidé, kteří přiznejme si jsou na těchto postech všechno možné, jen ne kvalifikovaní.

i kdyby hypoteticky členem takového roje byla jen hloupá kvadrokoptéra schopná jen několika málo výstřelů či položení miny, bude rok čítající miliony kooperujicich kvadrokopter prakticky neznicitelny ... tady je treba vyvijet uz uplne jiny druh protizbrani jako treba EMP a podobne, protoze ty ktere dnes povazujeme za ucinne jsou proti takovemu roji uplne k nicemu.

problém který způsobuje neúčinnost dnešní zbraní proti hypotetickému roji botů, je ten, že dnešní moderní zbraně se vyvíjí především podle těchto měřítek: "rychlý" nebo "neviditelný", "přesný", "smrtící pro zadaný cíl" ale bez důrazu na to, že cílů můžou být v krátký okamžik desetitisíce. Je to pak stejné jako vyrazit s dobře naostřeným skalpelem na jedno použití proti přílivové vlně kyseliny.

zamlčuješ, že i podle jeho vlastního vyjádření to bylo myšleno v kontextu tehdy jediného dostupného modelu.

Mne teda fascinuje, že nikdo z vás nepřemejšlí, jak zachovat hegemonii vlastní rasy - to už jste fakt tak retardovaní?

Je velmi pravděpodobné, že v okamžiku, kdy se umělá inteligence vymkne lidské kontrole a začne vylepšovat sama sebe, zjistí, že že veškerý organický život na planetě je pro ni jen nepříjemná komplikace a začne ho likvidovat. Uklidňuje mne jen fakt, že dalších padesáti let se určitě nedožiji.

"neexistuje způsob, jak stroje naučit zákony robotiky a zajistit, že neublíží člověku".
no a co? za skoro půl miliónu let jsme to nenaučili ani lidi jako druh, takže jediný rozdíl je v tom, že autonomní stroje se rozhodnou rychleji a budou silnější a rychlejší než lidi, a budou míň závislí na funkčním životním prostředí. bude to "kulturní šok" obdobný připlutí Španělů s palnými zbraněmi do jižní Ameriky nebo Britů do Afriky. buď se se stroji dokážeme spojit a učinit se vzájemně přínosnými, nebo ten slabší druh bude vytlačen a možná vyhyne úplně. dokud jich bude málo, budou slabší oni.

Z čeho vycházíte ohledně předpokladu levnější elektřiny u sousedů než u nás?

http://www.euro.cz/byznys/cena-za-podporu-obnovitelnych-zdroju-nemci-a-danove-maji-nejdrazsi-energie-1322942

Pokud jste provedl přepočet na výši mzdy nebo uvažujete cenu pro průmysl, mohl byste to uvést.

Ale ne další neznalá mysl odhodlaná pevně k činu, jakpak byste ivo postupovala ? například byste ihned zakázala všechny ty internety a výzkum ? :-) Buďte trochu realistka ... tohle nemusí být pro lidi nutně špatně, lidstvo si velmi dlouho bude užívat přínosy umělé inteligence na všech frontách, nikde není vytesáno do kamene že se to musí nějak zvrtnout a pokud se to snad stane, soudím že za tím opět bude stát jen zlovůle lidí samotných, ne umělé inteligence samotné, ale těch kteří ji chtějí zneužít, stejně jako jsou potenciálně schopni zneužít naprosto cokoliv.

We Are the Borg.
You Will be Assimilated.
Resistance is Futile.

V jedné z Lemových povídek se nabízí i jiný scénář, totiž že si roboti po svém opanování světa lidí docela vážili jako svého předstupně. Konkrétněji že posloužili k podobnému účelu, ke kterému se na stavbách používá lešení.

K vybudování nadvlády vám stačí nože a náklaďáky, hole a kamení, a nepotřebujete umělou inteligenci.

"I think there is a world market for maybe five computers." - Thomas Watson, president of IBM, 1943

chci tím říct, že nasazení AI na post úředníka by mohlo být jen plýtvání obrovským potenciálem. Síla neuronových sítí bude v hledání neobvyklých a nečekaně účinných řešení složitých problémů, ideální pro post poradců politiků. Poradenské týmy by časem mohly skutečně sestávat převážně z AI a lidé kolem budou jen žasnout nad navrženými cestami řešení, a obdivně je následovat .-) To se může velmi dobře stát. Samozřejmě politikem zůstane vždy především člověk ale stejně jako dnes jsou poradci politiků hybnou silou může jim skrze poradenský hlas být časem komplexní AI.

nedávno se ke mě dostala jedna velmi působivá vizualizaci neuronové sítě, jejímž úkolem je pouze rozpoznávat rukou napsané číslice. Ve vizualizaci je vidět jenom malý zlomek všech existující synapsí (padesátina) přesto to celé působí jako totálně neproniknutelný blackbox a takové neuronové sítě prostě jsou :-) video: https://www.youtube.com/watch?v=3JQ3hYko51Y

Jiste si sam dohledate, prohlaseni CEZ, ze aby se vyplatilo stavet dalsi reaktor, musela by cena elektriny stoupnout na nejmene dvojnasobek. Pricemz v tom neni zapocitana pripadna likvidace, ta se nechava tak nejak na potomky.

V opacnem pripade je to stavba reaktoru za nase dane pro nemecke spotrebitele.

Někdy člověku po přečtení informačních kexů nezbývá nic jiného něž popřát všem pěkné sny o singularitě :)

A vy se cítíte být kvalifikován k takovému odhadu jakými znalostmi Kliku-Cviku ? Tohle si netroufnou předvídat ani největší kapacity, neví zda to bude za 10 let, nebo za půl roku, prostě vám to žádný skutečný odborník neřekne. Hospodští odborníci vám samozřejmě dodají odhadů kolik chcete, do jaké kategorie spadá ten váš ?

(pokud bude výkon = myšleno půjde spustit na COTS hardware/menším datacentru. kdyby to bylo HPC only, tak regulace příchází v úvahu)

To ale není pravda, od chvíle kdy AI je stavěna na bázi simulovaných neuronů a synapsí už může být snadno inteligentnější než ten kdo ji stvořil.

Tak jistě, skepse je na místě u takových úvah, zvlášt pokud se do nich pouští v podstatě amatérští pozorovatelé. A je třeba si uvědomit že vynález WWW je po odborné stránce vzdálen neuronovým sítím asi jako jsou si vzdáleny práce zubaře a veterináře :-) Jeden by do toho druhému raději moc kecat neměl, a když tak s pokorou a velmi obezřetně.

přesto si ale dovolím připomenout projekt AlphaGO který pomoci neuronové sítě dokázal porazit člověka ve hře řádově mnohem složitější než jsou třeba šachy. AlphaGo svého lidského protihráče (nejlepšího hráče GO vůbec) naprosto deklasoval a ani jednou s ním neprohrál ani neremízoval. Uznejte to je velmi slušný pokrok a jak ho bylo dosaženo ? Hodně tomu pomohla změna pojetí "učitele", zatímco malé specializované neuronové sítě učí často nějaký jednoduchý (každopádně člověkem napsaný) algoritmus, který jen suše vyhodnocuje jak úspěšně je podle něj řešení navržené neuronovou sítí - resp. jak vyhovuje podle zadavatele, tak v případě AplhaGo to byla druhá odělená neuronová síť, která toto vyhodnocování prováděla a obě se navzájem učily a rostly do enormních proporcí, učitel i žák. Takže není tak daleko doba kdy AI bude skutečně vytvářet AI, vlastně je to nutné k řešení složitějších zadání, to není žádné sci-fi, už dnes se ví, že tudy vede cesta za mnohem vyšším stupněm umělé inteligence.

máte samozřejmě pravdu, osobně také nevidím o nic větší nebezpečí od vyspělé AI než od neznámého člověka, který může být - přiznejme si - impulzivní rapl a postřílet v obchoďáku desítky lidí, jen tak :-) bez důvodu, bez rozmyslu, a tedy v podstatě bez přihlédnutí k jakékoliv formě inteligence.

Připomíná mi to serial Humans :)

Já bych řekl za 20 .)

Odjakživa se počítá spotřební košík domácnosti toho kterého státu, jenom demagogové začali dělat přepočty, takže vy asi vycházíte s přepočtů co se každou sekundu mění a nijak nechcete započítat spotřební košík domácnosti?
Pak se chcete bavit o čem? Jabka z hruškama je sice počítat hezké, ale výsledek bude vždy nesmysl...

A co se podívat do USA, kde tyto systémy velké právnické firmy nasazují, protože mají v paměti "všechy rozsudky" země a nemusí zaměstnávat koncipienty a tolik advokátů...

Hele já bych to viděl jinak, každej straší lopaty, že nebudou mít práci, ale četl jsem právě studiu, že elektrikáři, instalatéři apod. se bát nemusí, bát se mají obvodní lékaři (exituje AI co je lepší jak nejlepší z nich...), právníci apod. tedy ti co se dnes bojí nejméně...

Za 50 let Al ? Řekl bych tak za 250 let ;)

Al bude jen taková jak chytrý bude člověk,ale člověk se velmi špatně učí ;)

doufám, že až bude AI tak nic tak stupidního jako státy už nebude existovat. maximálně v africe.

marku165 - nejsem odhodlána k žadnému činu. neb nevím, co jest třeba činit. Jen se zamýšlým nad důsledky nekritického přijímáni AI. Pokud už něco činíme, mělli bychom to alespoň dělat i k vlastnímu prospěchu

vůbec ne, už dnes je možné bezpečně přenášet zprávy bez toho aby je někdo četl, bezpečně vydělávat peníze, bez toho, aby je někdo danil/kradl. pokud bude výkon, krypto brzo zajístí, že AI bude volně dostupná. postupem času to systém rozdrtí, technicky tomu nejde bránit.

Lepší inteligence než naše by se musela myslet v jiné topologii než je euklidovský 3D. Vyšší inteligence třeba existuje, jen ji nevidíme. Její vnímání času se míjí s naším. Třeba bakterie vytvářejí komplexní distribuované systémy s vlastním vědomím, kterému ale čas plyne pomaleji než nám.

Čemu říkáte zelené bludy je prostě jenom zvažování rizik a na základě toho optimální strategická volba s cílem přežít víc než pár dekád.

Atomovou energii nikdo nezakázal.

Jen je jednoduše ekonomicky neudržitelná. Astronomické náklady na stavbu, astronomické náklady na likvidaci po konci živnotnosti, astronomické náklady na skladování vysloužilého paliva tisíce let, astronomické náklady na vrácení do původního stavu v případě katastrofy (i velmi bohaté a technologicky vyspělé Japonsko má problémy, Ukrajině se na to skládá celý svět).

Robot bude společností?

Tady vidíte názorně jak to s českým národem 25 let po skončení socialismu hrozně vypadá.
Autor článku neumí ani základní gramatická pravidla.

A za tento kritický stav národa vděčíme lidem jako je eurokomisař Špidla.