Vlákno názorů k článku Singularita už za 50 let. Asimovovy zákony robotiky do strojů nedostaneme, věří Tim Berners-Lee od krakonoš - Je velmi pravděpodobné, že v okamžiku, kdy se...

Je velmi pravděpodobné, že v okamžiku, kdy se umělá inteligence vymkne lidské kontrole a začne vylepšovat sama sebe, zjistí, že že veškerý organický život na planetě je pro ni jen nepříjemná komplikace a začne ho likvidovat. Uklidňuje mne jen fakt, že dalších padesáti let se určitě nedožiji.

ale umělá inteligence už vylepšuje sama sebe, v tom je proti hloupým algoritmům její princip a klíčová výhoda, umí sama hledat řešení, umí se sama učit. Čili co je podle vás vymknutí se kontrole to je už od samého počátku podstata umělé inteligence. Programátoři se všichni svorně shodnou na tom že ve chvíli kdy zadají základní hodnotící kritéria pro evoluci neuronové sítě a proces učení spustí už v podstatě netuší co se uvnitř děje. Pocit kontroly jim zůsává díky hodnotícím kritériím podle kterých učící se neuronová síť pozná jak dobře si vede, ale neuronová síť a její struktura je zcela mimo kontrolu a schpnosti porozumění libovolného programátora je to pro každého programátora jen tajuplná super složitá chaotická změť vazeb ze které jakýmsi matematickým zázrakem poté co tato změť vazeb nabude až absurdní složitosti najednou začnou vypadávat smyspluplné reakce :-)

V jedné z Lemových povídek se nabízí i jiný scénář, totiž že si roboti po svém opanování světa lidí docela vážili jako svého předstupně. Konkrétněji že posloužili k podobnému účelu, ke kterému se na stavbách používá lešení.