Místo probourávání šifrované komunikace a zásahů do soukromí ve stylu Velkého Bratra bychom měli spíše zrychlit mezinárodní spolupráci při vyšetřování šiřitelů dětské pornografie, říká metodik kybernetické bezpečnosti ze sdružení CESNET Jan Kolouch.
„Útočník útočí teď a za dvě sekundy útočí někam jinam. Policii nechybí prostředky a nástroje, ale nastavený proces je v mnoha případech velmi zdlouhavý. Než je i u nás vydán příkaz soudu, trvá to v dobrém případě řády minut, hodin, v některých případech řády dní. Dáváme útočníkovi náskok,“ říká Kolouch.
V podcastu mluvíme nejen o návrhu tzv. Chat Control, ale i o tom, že před nástrahami internetu musí děti primárně chránit jejich rodiče. Příliš se spoléháme na to, že se o ochranu dětí online postará někdo jiný. Máme falešný pocit, že když je dítě doma a tráví čas na mobilu, je v bezpečí, dodává Kolouch.
Rozhovor s expertem na kybernetickou bezpečnost si můžete poslechnout ve formě podcastu na svých oblíbených podcastových službách nebo přímo zde:
Níže vám nabízíme přepis části podcastového rozhovoru do textu. Podporovatelé Lupa.cz zde mají k dispozici kompletní strojový přepis (využíváme k němu AI služby Whisper a Claude, text je poté redakčně upraven).
Často se říká, že děti tráví online příliš moc času, že si je tam rodiče odkládají, že děti potom nejsou venku s kamarády ve fyzickém světě a že to narušuje jejich vývoj. Je to pravda? Jsou to podle vás největší rizika toho, že děti dnes přirozeně tíhnou k tomu, aby trávily hodně času hraním her, chatováním s kamarády nebo na sociálních sítích?
Podle mě je to skutečně jedno z velkých rizik. Generace, které vyrůstaly bez připojení k internetu a měly černobílou nebo barevnou televizi, čekaly na pořady, které pro ně byly určeny – nedělní Studio Kamarád a podobné věci. Současné generace mají přístup k internetu a k neomezenému obsahu. Sociální sítě fungují tak, že vám neomezený obsah neustále doručují – to, co se vám líbí, to, co je sledováno.
Rychlejší komunikace přes komunikátory typu WhatsApp nebo Messenger je zároveň v tomto prostředí udržuje. My jsme nechtěli být doma sami, hrát si sami, chtěli jsme jít za partou. Dnes děti partu mají v podobě mobilu, v podobě chatové komunikace, kde pomocí CapCutu stříhají videa, pomocí Robloxu se potkají ve světě, kde si zakládají farmičku a dělají spoustu dalších věcí.
Paradoxně jsou v „bezpečnějším prostředí domova“, protože my, starší rodiče, to vnímáme tak, že doma je bezpečí – nejsou venku, nemohou si zlomit nohu. Jenže jsou v online prostředí, které je vtahuje a nabízí jim neuvěřitelné možnosti. A my rodiče velmi často nevíme, co se tam děje – od mikrotransakcí, po to, že je může kdokoli kontaktovat. Kdokoli si může založit jakýkoliv alias a chtít si s dítětem hrát. To může být naprosto regulérní, ale zároveň po něm dotyčný může chtít spoustu jiných věcí, třeba za Robuxy nebo za jakékoliv jiné výhody.
Ano, děti dnes tráví víc času v online prostředí. Je to vývoj. Já si z mládí pamatuju, že nám říkali: „Nekoukejte na tu televizi, zblbnete z toho, běžte radši ven.“ Televize byla velký strašák. Není přesun do onlinu přirozeným technologickým vývojem?
Nerozporuji technologický vývoj. Sám jsem velkým obdivovatelem všeho možného v oblasti IT techniky. Ale rozdíl je diametrální. Sice jsme byli připoutáni u televize, ale obsahu nebylo tolik. Museli jsme na další obsah čekat, museli jsme se naučit čekat. V prostředí sociálních sítí, zejména těch velmi agresivních, které vám dávají obsah, který chcete – a vy ho chcete neustále, to čekání mizí. Algoritmus se přizpůsobuje uživateli bez ohledu na to, jestli je mladý nebo starý. Nehledí na to, zda má uživatel mentální brzdu, která mu řekne, že dvě hodiny koukání do mobilu už je fakt hodně a jde dělat něco jiného.
Algoritmus tu brzdu nedokáže nastavit. Respektive – bylo by to zřejmě možné, například Čína to dělá ve vztahu k mladým uživatelům TikToku, kterým nastavuje limity. Ale tam se zase dostáváme k social scoringu, k brutální kontrole státu nad tím, co jednotliví uživatelé dělají.
V extrému jde zákazem obsahu donutit uživatele, aby šli dělat něco jiného. Ale jsem šťastný, že žijeme tam, kde žijeme. Měli bychom se začít zaměřovat na nás rodiče, na vnímání toho, co děti dělají online, jaký obsah konzumují a jak dlouho ho konzumují. Nejde o to, že by neměli být online nebo na sociálních sítích, ale měli bychom dávat přirozené limity, jako byly přirozené limity u televize, kde nás po hodině nebo dvou rodiče vyháněli: „Běžte si ven hrát.“
Dá se nějak říct, která prostředí na internetu jsou pro děti nejvíc riziková, protože tam mohou potkat někoho, kdo na nich chce něco vylákat? Jsou to sociální sítě, herní platformy typu Roblox, nebo by si rodič měl dávat pozor prostě na celé online prostředí?
Rodič by obecně měl vědět, co jeho dítě dělá, v jakých sítích funguje, do jakých služeb vstupuje. Měl by znát komplexně prostředí, kde se dítě online pohybuje. Z hlediska rizikovosti jsou nicméně nejhorší skutečně sociální sítě – ať už Snapchat, Instagram nebo jakékoliv jiné – kde typicky probíhá první kontakt s dítětem. Potom bývá vylákáno třeba do herní platformy, kde může komunikace probíhat delší dobu. Někdo pak může kontakt s dítětem nebo nezletilým přenést třeba do soukromých chatovacích platforem – ať už je to Threema, Signal nebo WhatsApp. V ten okamžik ztrácím kontrolu. Komunikace probíhá po soukromé linii, někdo s dítětem komunikuje napřímo a může ho o něco žádat, nebo se ho snažit někam vylákat.
Jsou v Česku statistiky, které by ukazovaly, jestli počet takových případů stoupá? Před pár lety vzbudil bouři dokument V síti, kde bylo ukázáno na příkladech hereček, které měly vzhled náctiletých holčiček. Na internetu s nimi navazovaly kontakt osoby, které pak po nich vyžadovaly dost ošklivé věci. Povědomí o rizicích díky filmu vzrostlo. Jak to vypadá v Česku teď? Je těch případů hodně nebo málo?
Domnívám se, že těch případů je dost. Ne všechny jsou hlášeny, ne všechny se dostanou do stavu, že jsou vyšetřovány jako trestné činy. Sdružení CZ.NIC v rámci projektu STOPonline sbírá statistiky. Kolegyně Kateřina Vokrouhlíková, která tam pracuje, uvádí, že se velmi snižuje věk dětí, které na něčí žádost samy aktivně vytvářejí závadový materiál, třeba za úplatu nebo za jiné výhody. Dětští uživatelé, tím, jak žijí v online prostředí a mají různé vzory, mnohdy úplně nevnímají to, co dělají, jako něco špatného. Stává se z toho v mnoha případech norma – „jsem normálně požádán o nějaké fotky, tak jsem je poslala, na sociálních sítích se přece fotky posílají.“
Nerozlišují, co je ještě dobré posílat a co ne.
Protože jim to třeba nikdo nevysvětlil. Když to vezmu z pohledu rodiče, tak velmi často fotíme děti u moře v plavkách. S velkými jazykovými modely dnes přitom není nejmenší problém využít generativní AI k odstranění plavek a vytvoření materiálu, který má povahu „dětské pornografie“ a de facto zneužívání dítěte.
Změnilo se povědomí o tomhle problému po premiéře filmu V síti? Vnímáte u rodičů nějaký posun?
Po filmu V síti byla skutečně vlna paniky, zděšení, ale odeznělo to. Mám pocit, že i po těchto úderech, které dospělí dostali kladivem do hlavy, mají pocit, že když je dítě doma na mobilu, tak je v pohodě.
Mnohdy si neuvědomujeme třeba toto riziko: dítě má WhatsApp, protože se chce bavit s kamarády, protože si vytvořili skupinu a mluví spolu ve škole. Ale když mám WhatsApp, můžu se dostat do spousty jiných skupin, protože se někde objeví moje číslo a někdo mi napíše „přidej se do téhle skupiny“.
Byly případy, kdy se tam ukazovaly věci, které měly povahu radikalizace, násilí, docházelo tam k šikaně, hejtům. Dítě se tam dostalo jen tak, že ho někdo přidal a ono si myslelo, že tam má kamarády. Platformu, kterou dospělí považují jen za komunikátor, děti využívají úplně jiným způsobem – třeba právě zakládáním a přidáváním se do různých skupin, kde se může dít cokoliv.
Jedním z opatření, které má zabránit šíření fotek souvisejících se sexuálním zneužíváním dětí a dětské pornografie, je neslavná věc nazývaná Chat Control. Jde o návrh nařízení, který mimo jiné obsahuje novou povinnost pro provozovatele komunikačních služeb, ale i dalších webů, které umožňují ukládání uživatelského obsahu. Když dostanou takzvaný příkaz k odhalení (detection order), mají mít povinnost sledovat komunikaci uživatelů a skenovat ji na přítomnost fotek, videí nebo odkazů, které souvisejí s nevhodnými materiály. V polovině října o tom má hlasovat Rada Evropské unie a není stále jasné, jestli návrh projde. Myslíte, že by tohle opatření mohlo pomoci omezit šíření takových materiálů?
Jednoduchá odpověď, kterou představitelé Evropské unie rádi uslyší: ano, pomohlo by to. Ale v ten okamžik mluvíme o tom, že otevřeme celý internet a všechna data, která na něj vkládáme. Naše kompletní komunikace bude otevřená a kdokoliv ji bude moci poslouchat. Respektive ne kdokoliv, ale soukromý subjekt, poskytovatel připojení (ISP), přes kterého komunikančí služby používám, mě může celou dobu poslouchat. A s tím mám problém.
Jen upřesním, že audiohovory jsou z detekce podle návrhu vyňaty.
Vím. Tohle byla paralela k tomu, že to může pomoct, ale otevírá to možnost, že cokoliv může být zaznamenáno. Vážím si toho, že žiji, kde žiji. Že můžu být odposloucháván, ale je tady nějaký proces – policejní orgán musí dát návrh státnímu zástupci, ten nezávislému soudu, který posoudí, zda lze v těchto případech ten odposlech nebo vstoupení do digitálního prostoru povolit a data důležitá pro vyšetřování trestné činnosti zajistit. Máme systém sběru dat pouze na základě příkazu soudce a pouze za stanovených okolností.
To, že je z návrh Chat Control vyloučen audiohovor, povede k jediné věci. Místo posílání fotek si lidé budou pouštět živý videostream, ať už přes WhatsApp nebo přes FaceTime od Applu. My jako uživatelé řekneme: „Tenhle segment je z toho vyňatý, tak ho začnu využívat.“ A další opatření už nebude jen Chat Control, ale Overall Control.
Má-li opatření sloužit k detekci fotek nebo komunikace, narážíme na několik věcí. Když je fotka poslaná, je šifrovaný její přenos z bodu A do bodu B. V okamžiku, kdy je doručena, ukládá se kopie typicky do cloudové služby. A ta kopie tam existuje nezašifrovaná.
Jestli nad tím poběží algoritmus, který detekuje, že se objevil obrázek malého nahého dítěte, a pak se bude řešit, jestli to třeba neposlala matka, která koupala dítě a poslal fotku své doktorce, protože zjistila, že dítě má opruzeniny… OK, pokud bude detection ratio natolik skvělé, že dokáže tyto false positive případy vyloučit, může to být přínosné.
Ale pořád platí, že pak má soukromý subjekt plnou kontrolu nad tím, jaké fotky a texty vkládám. A s tím mám zásadní problém – nevidím jediný důvod, proč by soukromý subjekt, se kterým jsem uzavřel smlouvu, měl permanentně kontrolovat můj obsah.
Jednou z námitek je, že služby, které používají koncové šifrování, by musely to šifrování obcházet. Obsah by se měl podle návrhů Evropské komise skenovat ještě před tím, než se v zařízení zašifruje. Kritici říkají, že to šifrování pak nedává smysl. Takže by to pomohlo, ale měli bychom tady Velkého Bratra?
Měli bychom tady několik Velkých Bratrů, ve finále bychom se mohli dostat do stavu jako v Číně a do social scoringu. Jestli je to cesta, kterou chceme jít, tak to asi není prostor, ve kterém chci žít.
O návrhu se jedná už několik let, nadcházející říjnové hlasování má být už druhé, a jsem zvědavý, jak by rozhodl případný trialog, protože pozice Komise, europarlamentu a Rady EU jsou zatím dost odlišné.
Důvod, kterým se návrh zdůvodňuje, je odhalování zneužívání dětí online. Tahle problematika mě přivedla k oboru kybernetické kriminality a k tomu, co dělám. Za mě jde o jeden z nejzávažnějších problémů, který se online děje, protože se týká osob, které si nejsou schopné uvědomit důsledky, jsou vtaženy někam, kde by být neměly, a ty fotky a materiály budou kolovat celý jejich život. A nemusí jít ani o posílání nahých fotek, ale o komunikaci, která někoho bude uspokojovat, ale pro děti bude závadová.
Místo toho, abychom řešili zrušení koncového šifrování, kontrolu fotek soukromými subjekty a neustálé předávání informací státu, nám zásadně chybí zrychlení spolupráce orgánů činných v trestním řízení napříč Evropskou unií, ale zejména se Spojenými státy americkými, kde většina velkých technologických gigantů sídlí. Problém je, že v reálném světě stavíme bariéry – USA musí čekat na příkazy vydávané z České republiky, posuzovat jejich validitu a tak dále. Proces získání přístupu k informacím o případném útočníkovi trvá tak dlouho, že útočník mezitím změní IP adresy, telefony, všechno.
Místo probourávání šifrované komunikace a zásahů do soukromí ve stylu Velkého Bratra by cesta mohla spočívat ve významnějším posílení mezinárodní spolupráce a urychlení procesů. Útočník útočí teď a za dvě sekundy útočí někam jinam. Policii nechybí prostředky a nástroje, ale nastavený proces je v mnoha případech velmi zdlouhavý. Než je i u nás vydán příkaz soudu, trvá to v dobrém případě řády minut, hodin, v některých případech řády dní. Dáváme útočníkovi náskok. Zrychlení tohoto procesu, zrychlení spolupráce podle mě může být mnohem efektivnější cestou v potírání této trestné činnosti. A pak samozřejmě jde o osvětu a prevenci, o které se asi budeme bavit později.
Té rychlosti rozumím, ale zase to pak možná koliduje s rozumným požadavkem na to, aby takové zásahy schvaloval soud. Musí to někdo přečíst a posoudit, jestli jsou případy skutečně závažné…
Naprosto souhlasím, ale žijeme v digitální éře, a přitom se pořád zabýváme posíláním papírů. To je jedna věc. Pak jde o překlady dokumentů, doručování protistraně – ten proces opravdu drhne na místech, kde by drhnout nemusel. Digitalizace i v téhle oblasti může pomoct jak na naší, tak na protější straně.
Není potřeba zásahy rozšiřovat na všechny trestné činy, ale zaměřit se jenom na to, k čemu Chat Control směřuje – na ochranu dětí. Drtivá většina zemí na světě nemá problém vydefinovat, co je materiál zobrazující zneužívání dítěte, co je takzvaná dětská pornografie. Pojďme si celosvětově říct: tohle je něco, kde spolupráci dokážeme zrychlit natolik, že když přijde příkaz v elektronické podobě, věřím protistraně, že byl vydán legitimně, a doručím tomu, kdo data drží, žádost nebo příkaz, že potřebuji tahle data vydat, protože je zneužíváno dítě. Nerozšiřujme to na všechno, zužme to na tyto zločiny, mohlo by to fungovat.
Jak dlouho dnes ten proces trvá při nějaké žádosti do zahraničí, třeba k firmě Meta?
Nelze generalizovat. Jsou případy nouze, kdy je odpověď Mety velmi rychlá, v řádech minut. Nicméně tyto emergency případy jsou jasně stanovené – dítě v ohrožení života, zdraví a tak dále. Ale já mluvím o případech, kdy nemusí jít o přímé ohrožení, ale jde o děti, které jsou ohroženy zneužíváním, protože už došlo k distribuci nějakého materiálu. Kdybychom u nich zkrátili komunikaci na řády minut nebo aspoň hodin, bylo by to výrazné zrychlení oproti běžnému procesu.
Další aktuální téma je ověřování věku při přihlašování k nějaké online službě. Primárně se mluví o pornoslužbách, ale vypadá to, že ověřování věku by se mělo týkat i dalších služeb – třeba e-shopů, které prodávají zboží pro dospělé. Předpokládám, že když se to jednou zavede, bude to mít tendenci šířit se i na další služby. Dnes je praxe taková, že když přijdete na takovou stránku, odkliknete „ano, je mi 18 let, jsem dospělý“ a můžu dělat, co chci.
Skoro. Pornhub vás teď žádá, ať se přihlásíte svým Google účtem, což je velmi zábavné. A i řada dalších stránek vám nutí Google – „pojď, přihlaš se svým účtem.“
Ale povinné to není.
Ne, povinné to není, ale směřuje to k tomu. Když u Googlu zakládám účet, prohlašuju, že je mi víc než 13 let a dávám k tomu své telefonní číslo. A k téhle kontrole věku směřujeme. Začalo se to objevovat posledních pár měsíců. Když přednáším a ukazuju provázanost některých věcí mezi bankou, stránkou, kterou navštěvujete, a těmihle stránkami, tak říkám, že výzva „Přihlaš se svým účtem, bude to jednodušší“ v pozadí skrývá: „My už zkusíme zjistit, jestli jsi oprávněný sem jít.“
A Google na druhou stranu dostává informace, na jaké weby chodím, ne?
Jasně. Tyhle informace používá. Marketing je založen na tom, že s těmi daty obchoduje. Když pak přijdu a chci si koupit pomůcky, na které jsem se hodně dlouho díval na porno stránce, dostanu rovnou nabídku nejlepších portálů.
Mluvit o kontrole věku uživatelů je zajímavé. Narazíme ale na spoustu háčků. Zakázané ovoce chutná nejlépe. Všichni to známe a všichni se snažíme obejít pravidla, která nás omezují. Paradoxní je, že dítě se typicky setká s Pornhubem ve chvíli, kdy dostane svůj první mobil s připojením k internetu, protože se přes hry a další věci setká s nějakou reklamou a odkazovanou stránku si otevře. Regulace toho, kdy se dítě s takovým materiálem poprvé setká, by byla na místě. Přináší to však několik ale.
V momentě, kdy dítě pustím do světa digitálních technologií, obvykle mu zakládáme online identitu, která prokazatelně říká „tohle je moje dítě, je mu osm, devět let a takhle vypadá“ (i když za půl roku může vypadat úplně jinak, protože si třeba ostříhá vlasy, nebo prostě jen vyroste a změní se). A také „tady jsou rodiče, kteří jsou za dítě zodpovědní“. Protože kromě identity dítěte to po mě chce nějakou „parent verification“ dospělého, který může pomoci s nastavením přístupů dítěte. A dostáváme se zpátky k základní otázce, kterou jsme tady už řešili: jak moc se my, rodiče, o děti zajímáme.
Spousta rodičů řekne „OK, odkliknu ti to, abych se o tebe nemusel starat, a abys mohl jít na sociální sítě“. A pak už dál nic nekontrolují. Spoléháme se na to, že rodičovskou kontrolu bude za nás vykonávat někdo jiný. Může to fungovat, bojím se ale, že na to úplně nejsme připraveni.
Aktivita EU Digital Wallet je fajn, ale od jakého věku začneme „digitální občanku“ vydávat? V patnácti letech, jako vydáváme našim občanům občanky? To je strašně pozdě.
V Česku by dítě mladší patnácti let nemělo mít bez souhlasu rodičů přístup na sociální sítě. Od třinácti let může, ale se souhlasem rodičů. Souvisí to s předáváním osobních údajů: dítě do patnácti let nemůže samo dát souhlas s předáváním svých osobních údajů. Takže patnáct let už tady máme jako určitou hranici.
Ale to nefunguje. Vůbec nikde. YouTube Kids je sociální síť, na které bývají děti třeba od tří, čtyř let, kdy je tam rodiče pustí. Takže na tu psanou hranici zapomeňme. Chceme-li to udělat formálně, můžeme dát digital wallet od patnácti let, bude to fungovat, možná to bude hezké, budeme mít něco, že jsme si odškrtli. Ale snažím se dostat k meritu věci, jestli to skutečně bude fungovat.
Myslím si, že jsou případy, stránky, služby, kde by to skutečně mělo fungovat a kde by to bylo záhodno – zejména jde o služby, kde dítěti povoluji mikrotransakce. Třeba když dítě na sociální síti TikTok nebo na jakýchkoliv jiných přispívá influencerům tím, že jim posílá peníze, protože má možnost platit mikrotransakcemi.
Ale to musí mít přístup k platební kartě, a to mu musí rodič povolit.
Což rodiče běžně v mobilu povolí, protože dítě třeba jezdí autobusem, nebo si půjde koupit něco do samoobsluhy a zaplatí přes NFC. Nastavím mu denní limit 50 korun nebo třeba 20 korun, to mi nepřijde jako velký problém, a dítě si je za těch 20 korun schopno něco koupit.
Příklad mé dcery, který udělala nechtěně ona, nebo její kamarádi. Mám kontrolu nad jejími možnostmi nákupu v hrách a přišla mi žádost o nákup Robuxů za 6 tisíc Kč a o nákup skinů asi za 2 500 Kč. Zeptal jsem se jí: „Skutečně jsi o tohle žádala?“ A ona: „Ne, nežádala, nechala jsem si otevřený mobil a asi mi to udělali kamarádi, protože jsme hráli.“ I kdyby to udělala ona, je to přesně o tom, že ona ještě nezná hodnotu peněz. Bylo to zhruba ve čtvrté třídě, kdy dítě skutečně nemá ponětí o hodnotě, vidí skvělý skin, který by se mu líbil, ale nedokáže si představit, co za tím je.
Chybí prostě digitální a finanční gramotnost – nejen u dětí, ale u rodičů. Takže ano, třeba na takové záležitosti bych směřoval potvrzení toho, že jsem natolik vyspělý, abych dokázal pochopit, že to, co dělám.
Vidíte, a vy to máte vyřešeno tím, že máte jako rodič kontrolu nad platbami. Pak ale není potřeba ověřovat věk, ne?
Jasně, tím se dostáváme k tomu, jestli má ověřování věku, které předpokládá nařízení DSA, má skutečný význam, nebo jenom jestli formálně plníme nějakou povinnost.
Tradiční argument pro to, proč ověřovat věk dětí na internetu, zní: funguje to ve fyzickém světě, kde jsou některé věci do 18 let nepřístupné – prodej alkoholu a tak dál. Podobná pravidla by tedy měla platit i v online světě – přístup k pornografickým materiálům, nákup alkoholu a podobně. Tam by to mělo fungovat stejně, a tím pádem potřebujeme online ověřit věk.
Souhlas. Tím se dostáváme do dvou rovin, které zakazujeme: sex a alkohol. Jít na Alzu a nakoupit si cokoliv jiného zakazovat nebudeme, protože je to stejné jako když dítě přijde do hračkářství – má peníze, tak může koupit, co chce. Takže dobře – sex, alkohol, tabák a jakékoliv omamné a psychotropní látky a věci, ke kterým by se dítě nemělo dostat. OK, má to smysl. Pokud to směřujeme jenom do těchto tří, čtyř oblastí, tak ta digitální občanka od patnácti let dává smysl. Ale pořád tím nekryju, co bude předtím, než dítě tu občanku dostane.
Ale pokud ta stránka řekne „musím ověřit tvůj věk, musíš mi ukázat digital wallet, pokud ho neukážeš, zakážu to všem.“ K čemu to povede? K tomu, že všichni budeme muset mít povinně digital wallet.
A druhá věc, ke které to může vést: digitální občanku budeme mít tady v Evropské unii. Bude platit ve Spojených státech amerických, kde je spousta serverů hostovaná? Bude to fungovat v jiných zemích mimo Evropskou unii, ze kterých si velmi jednoduše můžu objednat cokoliv a je mi to doručeno PPL před dveře? Chceme-li to dělat, pojďme se dohodnout, že tohle jsou oblasti, kde se dokážeme shodnout a dokážeme ta pravidla zavádět.
Ve světě jsou různé snahy o omezování přístupu dětem do určitého věku k různým službám, třeba k sociálním sítím. Známý případ je Austrálie, která si schválila zákon, že od letošního prosince nebudou děti do 16 let smět na sociální sítě. Počítají proto s tím, že zavedou různé způsoby ověřování věku na internetu. Nedávno udělali studii různých možností, jak věk ověřovat. Primárně jim vycházejí dvě hlavní možnosti: jedna je přes nějaký průkaz – ať už naskenovaný a poslaný přes internet, což mi nepřijde úplně bezpečné, nebo ověření přes nějakou vládní aplikaci. A druhý je takzvané „age estimation“ – služba nechá zapnout kameru na počítači, udělá si fotku člověka a zkusí na jejím základě odhadnout, kolik mu je let. Ověřování věku se rozšiřuje i mimo ty logické kategorie, o kterých jsme mluvili. Myslíte, že by přístup k sociálním sítím měl být také zahrnut do ověřování? Pomůže to něčemu?
Myslím si, že to pomůže jediné věci: zkusíme hledat cesty, jak se tomu vyhnout. Bude-li nám něco zakazováno a my to budeme chtít konzumovat, budeme hledat cestu jak. Zkusím dát paralelu k reálnému světu. Dokud jsme jako dospělí neochutnali alkohol, neměli jsme důvod ho pít, zkoušet, kupovat. Pokud nám zachutnal, pokračovali jsme, pokud nám nezachutnal, skončili jsme. U sociálních sítí si dítě mnohdy sociální síť samo úplně nevybere. Když jsme na začátku mluvili o televizi – ano, šel zajímavý pořad ve Studiu kamarád, zůstali jsme u něj, dívali jsme se, chtěli jsme se dívat. Teď je nám jako dětem nabídnuta sociální síť jako něco, co nás naplní štěstím, dopaminem, něco, kde chceme být. A my jim to potom bereme.
Co by se stalo v momentě, kdy by dítě bylo bez sociální sítě a vy jste mu ji nabídli až v patnácti letech? Nevědělo by o ní, netrápilo by ho to, nebyl by problém. Kdybychom využívali Google Classroom – což ve své podstatě může být taky sociální síť, kde třída sociálně interaguje – jenom k tomu, že se tam děti učí, a neukázali jim jiné možnosti, tak by neměly potřebu do tohoto prostředí jít. Ale my je ukazujeme. A pak bychom řekli: „Sice jsi začal sítě konzumovat od svých tří let, od YouTube Kids, a teď přijde nějaké nařízení a my ti to zařízneme, dokud ti nebude patnáct.“ Kam to povede? Budu hledat jiný způsob, jak se dostat k obsahu, který mě naplňoval a bavil, který jsem chtěl konzumovat, ale který mi někdo jiný zakázal.
Takže řešením asi je zakázat to už tří let (smích).
Rozhodně (smích). Ale to pak zakazujme rodičům, a ne dětem (smích.) Vrátím se na seriózní notu: smysl může mít například regulace času, který děti v tomto prostředí tráví. Neurologové z univerzity v Košicích prokázali změny na mozku dětí, které byly od malička velmi dlouho vystavovány sociálním sítím, tabletům, mobilům. Dochází ke zpoždění vývoje, typicky v oblasti řeči a v dalších oblastech. Dopady skutečně existují. Ale to jednak mohou řešit rodiče a jednak by digital wallet mohla použít k tomu, že když někdo neprokáže, že má dostatečný věk, nastaví mu limity na užívání třeba sociální sítě.
A teď je samozřejmě otázka, jaké by ty limity měly být, pro koho… Ale mohla by to být cesta, kdysi řeknu: půl hodiny, hodinu denně, taková ta normální konzumace. Dítě se mnou nebude trávit čas u televize, protože ho televize nezajímá, zabaví se tím, že se podívá na něco, co se mu líbí. Ano, tam by to mohlo fungovat. Ale zase se tím dostáváme k Číně, kterou jsem zmiňoval, která vůči dětem zavádí nějaká pravidla. Čínský model – a neříkám, že je správný, ale říká: „OK, až dosáhneš nějakého věku, můžeš mít otevřený přístup.“ Je to model, jako když říkáme: „jsi dítě, můžeš řídit kolo, od patnácti můžeš řídit motorku, když splníš podmínky, od osmnácti můžeš řídit auto, když splníš podmínky.“ Jde o to model trochu otočit – omezuju tě, ale až splníš podmínky, můžeš naplno.
Jak jste mluvil o tom, že lidé, i děti samozřejmě, po zákazu hledají cesty, jak je obejít, tak zase sáhnu po příkladu. Velká Británie má taky svůj zákon, který omezuje přístup ke službám pro dospělé a vyžaduje ověření věku. A když jej zavedli, dramaticky stouplo používání VPN. Lidé začali používat i další způsoby, aby ověření věku obešli, například fotky vygenerované AI nebo screenshoty z her s fotorealistickou grafikou. To je asi důkaz toho, o čem jste mluvil, že omezení začne platit, lidé se je snaží nějak obejít. Ta australská studie, která prověřovala ověřovací technologie, říká, že se to dá ošetřit, že většinou je dobré nepoužívat jednu technologii, ale třeba kombinaci ověření přes průkaz a sken obličeje. A tvrdí, že dokonce i používání VPN se dá určitým způsobem detekovat pomocí geolokačních dat. Myslíte, že to opravdu může fungovat neprůstřelně? Dá se zamezit snahám o obcházení zákazů?
To, že mám neprůstřelnou vestu, neznamená, že mě někdo nemůže prostřelit. Nic není neprůstřelné. Kombinace různých technologií a nástrojů – ať už je to doložení digitálního nebo fyzického průkazu, sken obličeje, může výrazným způsobem snížit počet lidí, kteří tam nemají být, respektive kterým služba nemá být přístupná právě z důvodu věku nebo jakéhokoliv jiného omezení.
Je otázka, jestli takovou službu budu chtít využívat. Když mám třeba pornografické stránce dát svoje ID a svoji reálnou fotku, přemýšlím, jestli skutečně budu chtít být u této služby spojen s tím, na jaký materiál se dívám. Zvlášť když ta služba bude moje údaje dál prodávat za marketingovým účelem. A druhá věc je, že když se na svém zařízení identifikuji a přihlásím, a typicky půjde o můj domácí počítač, a přijde k němu moje dítě, jak se ověří, že na tuto stránku chodit nemá?
Znovu jsme zpátky u toho, že obrovskou roli hrajeme my, rodiče. Měl bychom chápat digitální prostředí jako komplexní věc s neomezeným přístupem napříč celým světem. A měli bychom vědět, jak ten digitální svět vypadá.
To je asi alfa a omega. Rodiče musí vědět, co děti v online světě dělají. Přidám ještě jeden detail z oné australské studie, která myslím jako první zkoumá technologie napříč poskytovateli služeb na ověřování věku. Zjistil samozřejmě, že odhadování věku u dětí, které jsou na hranici věkového limitu, je chybové asi v 8,5 % případů, což není zanedbatelné množství. To se nejspíš dá předpokládat, protože odhadnout, jestli člověk má 16 let a jeden měsíc, nebo mu bude 16 let až za měsíc, není snadné. Zaujalo mě ale, že podle studie provozovatelé systém na ověřování věku dobrovolně ukládali o uživatelích mnohem více dat, než by museli. Šlo o biometrická data, fotky a podobně. Zdůvodňovali to tím, že předpokládali, co po nich někdy v budoucnu budou chtít regulátoři. Například, že budou muset prokázat, že se uživatel skutečně ověřil a nějakým konkrétním způsobem prokázal svůj věk. To je asi bezpečnostní riziko.
Může to být bezpečnostní riziko, ale vlastně ty provozovatele úplně chápu. Ověření věku je po něm vyžadováno a měly by prokázat, že udělal všechno pro to, aby věk skutečně ověřil. I míra false positives ho může nutit k tomu, aby udělal všechno pro to, aby tu míru snížil, a dotyčnou osobu skutečně identifikoval jako šestnáctiletou. V podmínkách služby bych si pak jako provozovatel stoprocentně stanovil, že chci ukládat další doprovodná data, protože je to můj oprávněný zájem jako správce osobních údajů podle GDPR, abych chránil jednak sebe, ale i toho uživatele. Budu pak moci dokázat, že jsem udělal opravdu všechno možné, abych prokázal jeho věk. Námitka, že jsem pustil osobu, kterou jsem pustit neměl, může od státu nebo do někoho dalšího reálně přijít. A já se pak chci vyhnout případné sankci.
Bezpečností riziko to samozřejmě je v okamžiku, kdy někdo databázi s daty nabourá nebo se dostane do systému provozovatele. Na druhou stranu lze toto riziko omezit tím, že data zašifruju. Existuje také celá řada dalších bezpečnostních kroků na ochranu uživatelů.
Základem pro ověřování věku má být v EU v budoucnu peněženka digitální identity (EU Digital Wallet), která má začít fungovat koncem roku 2026, pokud to všechno dobře dopadne. Do té doby má fungovat jiná aplikace, jejíž prototyp v létě vydala Evropská komise a má se testovat v asi pěti nebo šesti státech. Zatím jsem tedy nezaznamenal, že by někde fungovala v praxi. Jak se na tento projekt díváte? Vyřeší nám digital wallet ověřování věku na internetu?
Vrátím se ke svému pozitivnímu přístupu k technologií: za mě by to bylo super. Mít jednu peněženku, kde budu mít svoje identity, svoje účty. Pominu, že to zvyšuje bezpečností rizika a že tam bude muset být řada bezpečnostních opatření, aby peněženka byla bezpečná a nenapadnutelná. Ale mít občanku, řidičák, zbrojní průkaz… všechno, čím může prokázat svou identitu, by mohlo být skvělé. Jako student na Erasmu nebudu muset prokazovat spoustu oprávnění. Když se propojí s mou zdravotnickou identitou, jakýkoli lékař si ji bude moci načíst. Může to urychlit spoustu procesů. Samozřejmě ve chvíli, kdy by se někomu podaří peněženku kompromitovat nebo se do ní nějak dostat, je to obrovské riziko. Mohl by to být skvělý projekt, nicméně viděli jsme spoustu zajímavých projektů, které skončily neslavně. Já bych byl například strašně rád za digitální stavební řízení, které ale nedopadlo. Tím ale neútočím na snahu digital wallet zavést, ale měli bychom to promyslet a dost dlouho a dost pečlivě systém testovat. A jestli mluvíme o plném nasazení na konci roku 2026, tak za rok a půl se dá udělat něco, co bude vypadat hezky, ale nemusí to fungovat. Bezpečnost by tady podle mě měla hrát prim. Raději bych projekt o pár let odložil, aby byl systém co nejvíc neprůstřelný.
Četl jsem obavy, že to bude šmírovací nástroj, že nás úřady budu schopné sledovat napříč internetem, že poroste počet služeb, kde se budeme muset identifikovat. Že se blížíme stavu, kdy bude internet tzv. na občanku. Toho se nebíte?
Jestli se takhle budu identifikovat vůči službám státu nebo Evropské unie – asi s tím nemám problém, je to stejné, jako když půjdu na úřad a tam se identifikuju. Stát mě pak může šmírovat, protože jsem byl o něco požádat. Je otázka, kde všude tahle digital wallet bude vyžadována mandatorně a kde bude vyžadována dobrovolně, protože mi usnadní nějaký proces.
Předpokládám, že třeba normální e-shopy, které nejsou regulovanými e-shopy v oblasti jako je pornografie, alkohol, omamné psychotropní látky – tak všechny ostatní e-shopy, pokud to bude dobrovolné a mě to usnadní činnost, pak už je na mně, jestli se nechám šmírovat nebo nenechám. U těch, které jsme zmiňovali na začátku naší diskuze, u těch, které by měly být regulovány zejména vůči dětem – dobře, vím, že sem jdu, a je to to stejné, jako kdyby někdo chtěl po mně prokázat občanku.
U dalších služeb – hotel stejně po mně chce průkaz totožnosti, v účetnictví se to promítne a stát by si teoreticky mohl dohledat, kde jsem byl ubytovaný. Nebo jedu po dálnici a zase prokazuju, že jsem vlastníkem vozu nebo platím známku. Dovedu si představit tu paralelu mezi světem reálným a virtuálním – kde jsme na prokazování zvyklí, kde nám nevadí, tak nám nevadí ani ve virtuálním světě.
U řady dalších služeb je to na dobrovolnosti. Bál bych se mandatorního vyžadování digital wallet u jakékoliv služby online, což ale ve finále by paradoxně vedlo k tomu, že začnou vznikat služby, které budou říkat: „Hele, my tohle nepožadujeme, nechceme, protože vás nechceme šmírovat a nechceme být tím Velkým Bratrem.“
Pokud to všem nebude nějaké nařízení nebo zákon, který jim to přikáže.
Které jde vždycky obejít.
Dobře, na to už nebudeme dávat další návody, myslím, že návodů, jak obcházet třeba ověřování věku, jsme už dali dost (smích).
Ne, cílem není dávat návody, jak něco obcházet. Jsem šťastný za otevřený, svobodný internet a současně jsem si vědom toho, že v některých oblastech je regulace nezbytná. Stejně tak jako ve světě reálném.
Svobodný, otevřený internet ale pro děti není až tak úplně bezpečným prostředím. Už jsme se několikrát zmínili o tom, že rodiče by měli s dětmi na internetu být, že by měli vědět, na jaké služby chodí, co používají, s kým mluví. Když to převedu do reálného světa, tam je to relativně jednoduché. Vidím, že dítě je někde na hřišti s kamarády, vidím, jaké jsou tam děti, znám třeba jejich rodiče, vím, kam chodí na kroužek. Mám nad dítětem poměrně velkou kontrolu. V online světě to ale není tak jednoduché. Opravdu můžu být u každého kliku dítěte a mít nad tím stoprocentní kontrolu? Jak snížit rizika, se kterými se může v online světě potkat?
Rozhodně nemůžu být u každého kliku, stejně jako nemůžu být i na tom hřišti, když dítě spadne ze stromu a zlomí si nohu. Nicméně digitální svět mi prostor hřiště otevírá do neomezených možností a do neomezených prostor.
Co s tím dělat? Začít sám u sebe a začít přemýšlet, kdy dítě do digitálního hřiště pouštím. YouTube Kids nebo jakákoliv pohádka na Netflixu, může být fajn. Ale jde o to: "Půjdeme se podívat, podíváme se v nějakém čase, klidně se pak třeba budeme bavit o tom, co se ti líbilo. Ale pak jdeme dělat něco jiného.“
Důležité je od malička dávkování, určování času, vnímání toho, co dítě baví, na co se chce dívat. A když se chce dívat víc, brzdit. Protože když si pustíte Netflix, tak obsah, který by dítě chtělo konzumovat, je nekonečný.
Nejenom dítě (smích).
Dobře, nejenom dítě (smích). Učit zatáhnout za brzdu a říct: „Teďka ne.“ Ze začátku vám dítě klasicky řve a dupe, že chce ještě. Ale postupně ho učíte, že existují jiné aktivity.
Kruciálním bodem je okamžik, kdy tomu dítěti dám jeho vlastní telefon. Už nejde o to, že dítě s vámi sdílí počítač, protože ten reálně nepotřebuje. Ale dám mu ten telefon, protože ho všichni ostatní ve třídě mají. Důležité je uvědomit si, jestli dítěti nedávám mobil moc brzo, anebo naopak moc pozdě, protože dítě můžu vyčleňovat z kolektivu tím, že je odsouváno z digitálního světa, kde všichni jeho vrstevníci jsou.
V momentě, kdy mu telefon dám, dám mu relativně neomezený přístup. Jsem na Wi-Fi doma, ve škole, a i když nemám data, vždycky si nějakou cestu najdu. Tady se s dítětem začnu bavit o tom, co chce, co by ho bavilo, co potřebuje. Když chce aplikaci, měl bych se jako rodič chtít podívat, co ta aplikace dělá, co je tam možné. Nemusím být aktivním uživatelem Robloxu, ale měl bych vědět, jakým způsobem tam je možné komunikovat, co všechno tam může být. Zkusit si promluvit o věcech, které se nám dějí.
To znamená vnímat – tak jako když jdeme k přechodu, tak jen prostě neřekneme: „Hele, až začne svítit zelený panáček, tak běž.“ Ne, x-krát s dítětem ten přechod přejdeme, než se to naučí. Je důležité dělat s dětmi ty první kroky, pak nastavovat i přísnější pravidla, která se nelíbí – dát třeba večerku, že od osmi večera do sedmi do rána se jen dovoláš a napíšeš zprávu, kdyby se něco stalo, ale nezapneš si žádnou aplikaci.
Znám rodiče, kteří na noc doma vypínají modem nebo Wi-Fi.
To nebude fungovat, dítě se připojí na Wi-Fi souseda, anebo ve finále bude mít neomezená data (smích). Ale jo, i tohle může být cesta.
Pak je dobré aplikace průběžně probírat, mluvit o tom, co dítě dělá. Když ho pouštím už na sociální sítě, zkusit s ním mluvit o tom, na co se dívá, co ho baví – ať už jsou to influenceři nebo jiný obsah. A nepřijít za ním: „Ježiši, na jaké kraviny se to koukáš?“ Dítě se dívá na to, na co se chce dívat, protože algoritmus všech sociálních sítí od Instagramu přes TikTok a Snapchat dává obsah, u kterého trávíme nejvíc času a reaguje na naše nálady. Máme blbou náladu, začne nám dávat smutné nebo naopak veselé věci. Algoritmus je geniální.
Je taky dobré zkusit začít vysvětlovat dítěti, že to je fajn, ale je to jen nějaká interakce a není to reálné. Máš trápení, zkus se v tomhle neutápět, zkusme jít dál. A tohle dělat neustále a neustále se s dítětem bavit. Nejít směrem, že může úplně všechno, a mě to nezajímá. To je jako bychom dítěti ve třinácti nebo šestnácti letech řekli: „Můžeš úplně všechno: drogy, sex, alkohol, mě to nezajímá.“ Což si reálně nedokážeme představit.
Ale online, když nevíme, co dítě dělá, tak netušíme, že třeba přišlo na Pornhub, že sleduje na X násilí na jiných. A naše nevědomost je to, co dítě nejvíc ohrožuje. Musíme se zkusit víc zajímat, ne nutně všechno lámat přes koleno, vypínat router, vypínat telefony, ale zkusit začít vnímat.
A když to navnímáme, tak se ptát, případně přijít s nějakým nápadem. Protože když to neděláme, jsme pro děti digitální neandrtálci. Děti žijí ve světě, kde jsou šťastné, a my jim nedokážeme nabídnout alternativu, protože říkáme: „Na jaké kraviny to koukáš, tenhle je úplně blbej.“ Ale sami nepřijdeme s žádnou alternativou.
Alternativa je asi dobrý nápad. Já se snažím se svými dětmi hrát hry. Hrajeme hry, které jsou kooperativní, to znamená, že není možné, aby dítě hrálo samo, ale musí tam mít aspoň jednoho parťáka. Najednou je z toho rodinná zábava, protože dva lidé hrají a dva se na ně koukají.
Jo, šli jsme velmi podobnou cestou. Trávení času v mobilu bylo strašně velké. A já pak otevřel svůj Steam, našel jsem kooperativní hry typu Two Brothers, což je stará hra, kde musí kooperovat. A teď jsem strašně šťastný, že jsem svoje dítě přetáhl do světa počítačových her, kde musí zapojit klávesnici, WASD a spoustu dalších věcí a není na mobilu. To, co mi vyčítala moje matka – „jsi pořád připojený k počítači a hraješ hry“ – se snažím přenést na své dítě a odtrhnout ho od mobilu, kde je konzumace mnohem jednodušší a mnohem hloupější. V komplexnějším prostředí, ať je to Minecraft, ať je to Red Dead Redemption, ať je to cokoliv, musí vnímat a dělat mnohem víc věcí, než když jde na mobilu zasadit semínko.
Jako jeden ze svých úspěchů vnímám, když mi syn řekl: „Tati, bez tebe mě hraní Minecraftu nebaví, pojď si zahrát se mnou.“ Byl jsem moc rád, tak snad to takhle může fungovat.
To je super.
Každopádně velké doporučení – buďte s dětmi online, u her, zajímejte se. Rodiče by digitálnímu prostředí opravdu měli aspoň trochu rozumět, protože to je opravdu svět dětí a měli bychom vědět, co v něm dělají.
Přepis podcastu je dostupný pouze našim podporovatelům
Můžete se jím stát i vy. Získáte tak nejen přístup k přepisům všech našich podcastů, ale také Lupu bez bannerů, newsletter o zákulisí českého internetu a další výhody.
ČLÁNKY DO MAILU