Národní úřad pro kybernetickou a informační bezpečnost (NÚKIB) upozornil uživatele, aby si dali pozor před novými populárními aplikacemi a chatboty. Úřad není adresný, podle všeho ale reaguje například na čínský jazykový model DeepSeek, který se v posledních dnech stal velmi populárním.
DeepSeek provětral konkurenční vody trhu s AI a přinutil dominantní americké hráče k reakcím. Zároveň se ale začaly probírat obavy, že je DeepSeek cenzurovaný a neodpovídá na věci, které se nelíbí čínské komunistické straně (také západní boti blokují některá témata či generování obrázků), případně odpovídá verzí tlačenou Čínou (třeba otázka Tchaj-wanu). Také existují obavy z toho, co se děje s daty, které uživatelé do chatbota zadávají.
“Chatboti nejsou bez rizika. Mají přístup k velkému množství potenciálně citlivých informací o svých uživatelích. Jejich odpovědi mohou obsahovat chyby nebo být zkreslené. Obsah mohou ovlivňovat tvůrci aplikace i země jejich původu,” upozornil NÚKIB.
Na Lupě aktuálně běží anketa, v níž zatím hlasovalo přes 1 100 lidí. Více než polovina hlasujících (56 procent) uvedla, že pokud budou čínské AI modely lepší, budou je hlasující používat. Zbytek je považuje za rizikové.
Kyberúřad také vydal tipy na používání nových populárních aplikací: stahovat je jen z oficiálních obchodů App Store a Google Play (i tam se ale mohou dostat viry a appky sbírající mnoho dat), pečlivě sledovat přístup appek k datům a případně vyčkat, než aplikace posoudí bezpečnostní odborníci.
“Provozovatelé aplikací mohou zacházet s vašimi daty nestandardně. Nové, rychle populární aplikace mohou obsahovat bezpečnostní rizika,” doplnil NÚKIB.
Úřad už v minulosti upozornil na e-shopy sbírající data uživatelů. Opět nebyl konkrétní, ale zřejmě cílil na čínské obchody Temu či Shein. NÚKIB také v roce 2023 uvedl, že čínský TikTok představuje bezpečnostní hrozbu.
Z Číny se na Západ dostává stále více populárních appek. V posledních týdnech jde o sociální síť Xiaohongshu (Červená obálka či Red Note) nebo nástroj pro střih videí CapCut.
Společnost Check Point popsala, proč může být DeepSeek problém:
Zatímco open source model DeepSeek je průlomem v nákladově efektivním nasazení umělé inteligence, uživatelská aplikace DeepSeek přináší problémy v oblasti ochrany soukromí a zabezpečení a pro organizace se jedná o velkou výzvu.
Nejvíce alarmující je, jak DeepSeek pracuje s daty. Dalece totiž překračují běžné zvyklosti. Podle zásad ochrany osobních údajů DeepSeek jsou všechny interakce uživatele, včetně promptů, nahraných souborů, historie chatu, hlasových vstupů, obrázků a dokonce i vzorců stisknutých kláves, přenášeny a ukládány na externí servery. Navíc DeepSeek si vyhrazuje právo kontrolovat veškerý obsah odeslaný uživateli.
Tak komplexní sběr dat je bezprostřední riziko. Získaná data mohou sloužit k trénování AI a citlivé firemní informace by mohly být začleněny do budoucích AI modelů. Uživatelský obsah může být sdílen s třetími stranami, včetně poskytovatelů služeb a firemních poboček. Pro organizace, které dodržují GDPR, HIPAA, CCPA nebo jiné regionální předpisy o ochraně osobních údajů, představuje tento způsob práce s daty hrozbu sankcí za nedodržení předpisů. Navíc omezení obsahu a cenzura určitých témat v DeepSeek mohou mít další vliv na provoz organizací.
Fenomén DeepSeek ukazuje, jak extrémně populární může být během pár hodin nový AI nástroj a vystavit riziku citlivé podnikové údaje, ještě než stačí bezpečnostní týmy zareagovat.
ČLÁNKY DO MAILU