Dvě připomínky:
"Umělá inteligence (AI) je vytvářena lidmi a záleží jen na nich, jaké hodnoty jí dají" - to naznačuje, že by lidé měli být poměrně schopní ve výchově svých dětí a nových generací. Jenže tak to není, málokdo zvládne výchovu na výbornou, většina se utápí v průměru a pak je tu i řada jedinců, kteří dávají svým dětem mindráky a nejhorší možné vzorce chování. Co nás vede k představě, že u AI to zvládneme lépe? Obzvláště když na vývoji AI pracují jedinci, kteří by cenu "otec roku" nevyhráli.
No a zadruhé je to tak strašně "jen o vědě", že z toho až mrazí. Dokážete si představit, že by se pro věděcké účely začal ve velkém prodávat štěpný materiál? Donesete kufr peněz a dostanete pět kilo plutonia. Samozřejmě na věděcké účely a pro dobro lidstva. Pokud ne, tak proč tyhle lidi nenapadne, že by se to samé stalo s AI? Že oni sami mají úmysly čisté je fajn, ale jakmile tu ta technologie bude, tak ji někdo zneužije k vojenským účelům. V lepším případě to budou velké a silné státy, které ty zbraně sice vyrobí, ale budou si je hlídat stejně tak, jako si dnes hlídají jaderné zbraně. V horším případě to neuhlídají a někdo jim to "zkopíruje" a bude problém. V tom nejhorším případě se toho chytnou zločinci, "spasitelé lidstva", náboženští fanatici a diktátoři, kteří tu AI už "správně" naprogramují a nechají ji konat v jejich zvráceném zájmu.
Osobně nepochybuji o tom, že skutečnou AI vyrobíme. Ale zároveň předpokládám, že se bude opakovat scénář jako s dynamitem nebo štěpnou reakcí. Ač vyvinuté pro dobro lidstva (bezpečnější trhavina pro důlní práce, zdroj energie atd.), tak první skutečné nasazení bude válka. A teď mi přijde předčasné diskutovat o tom, jak bude svět vypadat po válce.
Jedna silnější sluneční erupce ... a náš ,, pokrokový ,, svět se sesype jak domeček z karet. Položil bych si spíš otázku jestli nějaká Al má vůbec pro člověka a jeho budoucnost nějaký smysl a zdali to kam jako civilizace směřujeme není plýtváním času, když v podstatě zdokonalujeme naprosto nevyhovující infrastrukturu pro svět na které žijeme.