Názory k článku Proč nám fulltextový stroj nerozumí?

Vazeny pane Panek - nebo jak se vlastne jmenujete? Jaky je Vas mesicni prijem :-) A pracujete n nejake firme v CR ktera dela na vyvoji nejakeho vyhledavaciho nastroje. Pokud ne, tak proc?

Mohl by mi prosim autor nebo proste nekdo inteligentnejsi jeste trochu privysvetlit ten algoritmus pro stanoveni "GooglePageRank". Nemohu to pochopit.
Uz jedna z uvodnich vet mi pripada rozporuplna:

"zvolí stránku s pravděpodobností q nebo s pravděpodobností (1-q) následuje odkaz, který ..."

Prece pokud je pravdepodobnost, ze uzivatel stranku ZVOLI "q", pak prevdepodobnost, ze ji NEZVOLI je "1-q". Tak jake "NEBO"?

A znamena tedy algoritmus, pokud si jej prelozim do lidstiny, ze

a)Pagerank me stranky ROSTE s Pagerank-em stranek, ktere na mou stranku odkazuji?????

b)Pagerank me stranky KLESA s poctem odkazu na strankach, ktere na mou stranku odkazuji?????

Karel Sasin
wap.sluzba.cz

Vážený pane Pánku,

zaujala mne statistika počtů slov v dotazu, prohlédnutých stránek výsledků, atd. Pokud ale současně neuvedete pro jaké časové období a jazykové prostředí tyto údaje platí a odkaz na metodiku jejich změření, pak je jejich cena minimální.

Z literatury pod článkem se zdá, že se jedná o minimálně 4-5 let stará data z USA. Je tomu tak?

Dovolím si odpovědět za autora :-)

a)Pagerank me stranky ROSTE s Pagerank-em stranek, ktere na mou stranku odkazuji?????

Ano.

b)Pagerank me stranky KLESA s poctem odkazu na strankach, ktere na mou stranku odkazuji?????

Přírůstek vašeho PR získaný za určitou stránku je nepřímo úměrný počtu jiných odkazů na ní umístěných.

Bod a) je mi tedy jasny.
Bod b) pisete to stejne co ja, jen trochu jinak, takze take chapu.

ALE
je to vubec pravda? Pokud ano, jak to autor vi? Pracuje snad pro Google?
Pane Prokope, Vy vite jeste lepe nez ja, ze Google metodiky taji, aby nedaval navod, jak PageRank umele zvyzovat, ne???

Pokud vim, tak se mezi lidmi, co delaji optimalizovane stranky pro fulltexty, vseobecne veri, ze AV, nebo Google berou v potaz i PageRank stranek, ze kterych se pocita PageRank Vasich stranek ... tedy nejenom jejich pocet.

Je to i logicke ... pokud budete mit stranku zarazenou v YAHOO, tak to ma vetsi vahu, nez kdyz na ni bude odkaz z nejakeho geocities.com/xxx/xxxxx/xxxxx/xxxxxx.html.

Zda autor pracuje pro Google nevím, ale jakým způsobem Google zahrnuje do hodnocení stránky tzv. link popularity (tj. ukazatel sestavený na základě externích odkazujících stránek) lze experimentálně zjistit. Sám jsem několik dlouhodobých (s horizontem cca. 1 rok) pokusů dělal a ty výše uvedený závěr prokázaly.

Na druhou stranu počet odkazů na odkazujících stránkách a samotný PR těchto stránek nejsou zdaleka jedinými parametry, které vstupují do váhy externího odkazu.

Technicka zprava popisujici implementaci Googlu je The Anatomy of a Large-Scale Hypertextual Web Search Engine. Nejsem si zcela jisty, jak moc je jiz zastarala...

To autor take pise, viz ten vzorecek...

BTW opravdu se tesim na nejaky clanek autora, u ktereho si nebudu muset pracne (a vetsinou marne :-) vybavovat obskurni vysokoskolske znalosti. Mam takovy pocit, ze Markovovy retezce jsou snad na vsech VS krome MatFyzu soucasti maximalne volitelnych kurzu statistiky/teorie pravdepodobnosti.

Slo by to pritom vysvetlit v pohode i bez toho, ta metoda NENI nijak komplikovana - aspon ja to chapu tak, ze na zacatku se vsem strankam strci nejaky konstantni pagerank, pote se na zaklade techto pageranku spocitaji tyto pageranky znovu (tj. zvysi se tem strankam, na ktere vede hodne linku), pote se vypocet provede opet znovu (tj. opet se zvysi pagerank strankam, na ktere vede hodne linku, hlavne ze stranek, na ktere take vede hodne linku, tj. maji uz pagerank vysoky), to se dela porad dokola, dokud se prirazene pageranky uz (temer) nemeni, ty jsou pak vysledne.

Ne, pro zadnou ceskou spolecnost produkujici IT reseni nyni nepracuji. Duvod je prozaicky - nedostal jsem takovou nabidku, abych mohl uplatnit sve znalosti z oblasti e-business. Prijal jsem proto kontrakt ze zahranici, ktery nyni uspesne konci. Hlavni moje specializace nejsou vyhledavace, ale robustni DB reseni.

V soucasnosti pracuji pro jedinou ceskou komercni spolecnost kolem Lupa.cz, lze-li to tak rict. Vysi meho honorare Vam za celou dobu pusobeni sdeli redakce, pokud tyto udaje zverejnuje neni-li autor clanku proti. Coz nejsem.

Vas empiricky zaver je spravny. Dnes se ale testuji i metody jak do PageRank vpravit i semantiku (linky v patickach nejsou treba casto proklikavany) - tim by se PageRank ze stranky predaval ne tak alibisticky (=vsem stejne) jako je v zakladni formuli, kterou jsem uvedl, ale s daleko vetsi granularitou.

Az budou zapojeny bude velmi odtizne zjistovat neco empiricky...

Dekuji, ten link je velice uzitecny.

(f) jeden google-dotaz to spravi :)

V clanku je par nepresnosti, ale jsou to vicemene detaily:

(a) Prumerny pocet operatoru v dotazu = 0.41 ... to bude nejaky hodne stary udaj, navic asi z nejakeho stroje s dlouhodobymi a disciplinovanymi uzivateli (tipuju Altavistu). V soucasnosti je to MNOHONASOBNE min - uzivatele v podstate operatory uz nepouzivaji.

(b) "... interaktivním algoritmem" ... autor chtel zrejme rict iterativnim

(c) "v průniku může být asi pět procent dat" ... troufam si tvrdit, ze toto cislo neni nicim verohodne podlozene (to neznamena, ze neverim, ze nejaka studie toto cislo skutecne uvadi ;)) )

(d) "Naopak máme-li několik stránek, které obsahují jediný link na naši centrální stránku (CS), a z ní vedeme pár odkazů (zpětně se vracející opět na CS), můžeme tak na CS zvýšit PageRank." ... tato technika na zvyseni PageRanku nefunguje. Do tech "pomocnych" stranek by bylo nutne nalit PageRank zvenku; pokud bychom to delali, nalevali bychom ho radeji primo na centralni stranku.

(e) "To vede ke ztrátě až 50 procent relevantních odpovědí, když se zaměříme jen na cizí slova nebo slova s pravopisně obtížným hláskováním." ... to tvrdite, ze "cizi slova nebo slova s pravopisne obtiznych hlaskovanim" uzivatel zada blbe v 50% pripadu? - tak spatne na tom lide podle me nejsou.

(f) "Patrně z důvodu obavy z přehlcení kapacit linek nebyl tento stroj, dle mých neověřených informací, poskytnut k volnému veřejnému vyzkoušení." ... ten stroj je online a kdyz vite, jak ho najit, muzete v nem vyhledavat (ted jsem to zkousel). Vzhledem k tomu, ze jsem se k nemu proklikl pres Agreement "do not distibute this URL", tak vam uz vic nereknu ;)

Dovysvetlim, co mohu, jinak dekuji za zpresneni.

(a) ano, vzal jsem udaje z doby, kdy byla AltaVista de facto monopol na fulltext v internetu. V opacnem pripade by bylo nutne spojovat udaje minimalne z googlu, avisty atp. Tyto vystupy jsem ale neziskal pro stejne casove obdobi, proto jsem nakonec sahnul po variante Avisty.

(b) autor to rekl i napsal. Pravdepodobne editor v zaplave mych beznych preklepu provedl mylnou opravu.

(c) Doporucuji: Bharat, Broder: A technique for measuring the relative size and overlap of public Web search engines. Viz. WWW conference, rocnik s dovolenim neuvedu, bude lepsi kdyz svoji neduveru pozitivne vlozite do sluzeb hledani toho spravneho rocniku :-)

(d) Mate pravdu. Ty vychozi stranky musi byt mimo. Mozna to z clanku neni patrne, ale smysl mel byt ten, ze jen nekolik stranek mimo, pres ty na titulku, a dalsimi odkazy uz na nasem serveru nepustit tento potencial ven. Pokud se procyklite v ramci sveho site zpet na titulku, bude potencial "nejak" ustrizen, ale tady nechci zabihat do podrobnosti. Ty techniky se pak uz lisi stroj od stroje. Nektere degraduji pri zjisteni smycky, jine to zastrihnou, jine to nechaji rust.

(e) Ano, tvrdim na zaklade literatury. Neni myslim v lidskych silach delat kazdy pokus. Mimojine pana, ktery toto cislo ziskal znam a vim, ze se plete jen velmi zridka.

(f) Prosim, aby i ostatni ucastnici postupovali stejne. Muze to ovlivnit vysledky testu, ktere tam bezi.

Markovovy retezce jsem zminoval proto, ze jsem chtel vysvetlit pozadi onech formuli - mnozi nemuseli byt u toho, kdyz se vlastne jen chtelo zjistit, co by se stalo, kdyby:

- nahodny uzivatel nekde zacal
- s pravdepodobnosti q by se mu stranka kde je, nelibila ani linky na ni a tak si zvolil jinou
- se zbyvajici pravd. (1-q) by sel po odkazech na strance dal - tedy na jeden odkaz pripada pravd. (1-q)/(pocetlinkunastrance)

a z toho bychom chteli zjistit, kde skonci nejpravdepodobneji - treba abysme to marketingove vyuzili a zaplatili si na tento nejpravdepodobnejsi dokument svuj banner.

Zbytek je pak vlastne matematicka rutina.

Muj pohled na toto je ten, ze si pamatuji pribeh, pohadku o metode, nikoliv vzorce. Kdyby se nekdy stalo, ze opet zabrousim do kalnych vod, rad to v diskuzi pod clankem (na pripadne dotazy) dovysvetlim.

Dobry vecer.

Mym cilem nebylo sledovat tyto hodnoty, ale pouze demonstrovat jejich miru. Data skutecne vychazi z udaju do roku 1998 (3-4 roky stara). Proc?

Od te doby ze zvetsila penetrace internetu mezi bezne uzivatele. Proto skutecne hodnoty jsou pesimistictejsi a pro moje demonstracni ucely je/bylo lepsi vyuzit dat optimistickych. Dale uvazte, ze by je bylo nutno kombinovat z nekolika zdroju (jiz neni jen jeden velky fulltext jako kdysi). Prumery ale nelze jednoduse scitat, musite mit kompletni statistiky pro rekalkulaci. Ty jsem neziskal v dostatecne kvalite.

To vse mne nakonec vedlo k tomu, ze jsem sahl po starych, optimisticky ladenych datech. V pripade, ze hodnoty budou vice relevantni k vlastnim metodikam, budu samozrejme vyuzivat up-to-date hodnot.

Pouzite zdroje jsou zmineny v odkazech v zaveru clanku.

Sice nevim, jak Google k PageRank dojde, ale uprimne receno je mi to vcelku jedno. Pokud totiz neprogramuju fulltextovy vyhledavaci nastroje, tak je pro me dulezity spis to, jestli prislusnej engine vraci relevantni dotazy nebo ne. Google je vraci. Proc prirazuje nekterym serverum "podivny" hodnoty PR je celkem irelevantni.

(c) V tuto chvili Vas asi musim odkazat na pana kolegu Baeza-Yatese, ktery potvrdi cisla, ktera jsem uvedl a to s ohledem na citovane prace, jeho zaver taktez v originale zni: "In fact, fewer than 1% of the Web pages indexed by AltaVista, HotBot, Excite, and Infoseek are in all of those search engines. This fact is quite surprising and has not been explained yet.".

Domnivam se, ze kazdy z nas diskutuje jina cisla, resp. si urcite hodnoty jinak vyklada.

(e) Vas nazor neumim kvalifikovane zhodnotit. Ja vice verim vedeckym zaverum, nez osobnim dojmum. Dojmy mnohdy klamou.

V nekterych pripadech mam pocit, ze Google PageRank uvadi zcela mylne informace. Uvedu priklad a nechapejte to prosim jako reklamu, protoze je to jen zajimave srovnani na jehoz jedne strane stoji nas server jehoz vyznam znam velmi dobre.

Servery Mobil.cz a Interval.cz maji hodnotu PR 5
Servery Slunecnice.cz a Mesec.cz maji hodnotu PR 4

Osobne vsechny jmenovane radim mezi servery v CR VYZNAMNE.

Nas server Mylinx.cz ma hodnotu PR 5

Muze mi prosim autor nebo nekdo ze znalcu vysvetlit, jak je mozne, ze server, jehoz vyznam je minimalni ma stejny a mnohdy vyssi PR nez server vyznamny ???
Nam to samozrejme nevadi, ale z tohoto srovnani usuzuji, ze je hodnota PR uvadena Googlem slusne receno "K nicemu".

Karel Sasin
wap.sluzba.cz

> (c) Doporucuji: Bharat, Broder: A technique for measuring the relative size and overlap of public Web search engines

Tu studii znam. V jejim conclusion je:

> We found AltaVista to be the
largest search engine at that point in time with a 62% share of the
combined set of URLs indexed by the four major engines, and a
consistent 50% coverage of each of the three other search
engines. Based on estimates that AltaVista's size was approximately
100 million documents, we conjecture that the size of the static
public Web as of November 1997 was at least 200 million documents.

To jsou o neco optimistictejsi cisla.
Navic ted maji Google i narodni fulltexty zaindexovano pomerne vic.

> e) Ano, tvrdim na zaklade literatury. Neni myslim v lidskych silach delat kazdy pokus. Mimojine pana, ktery toto cislo ziskal znam a vim, ze se plete jen velmi zridka.

To ja verim vic lidem. Prece jenom zprasit cizi slovo s 50% pravdepodobnosti je podle mne prilis.

Jak se budes Sokrate ptat na to, co neznas?
A kdyz naleznes, co hledas, jak budes vedet, ze je to ta vec, kterou neznas?
Clovek se nemuze ptat na to, co zna nebo na to, co nezna, protoze, kdyz to zna, nemusi se ptat a kdyz to nezna, pak se na to nemuze ptat, protoze nezna presne subjekt, na ktery se ma ptat.
(Platon)

K Vasemu nazoru snad jen tolik: pokud Google nebude Vase dokumenty vracet mezi prvnimi peti-sty, pak Vas PageRank jako autora zrejme zajimat bude. Pokud se spokojite jako ctenar s omezenym zornym polem, ktere Vam Google v podobe par hornich vysledku nabizi, PageRank Vas pochopitelne trapit nemusi. Kdyz ale vite jak Google "uvazuje", vite take, ktere dokumenty musite hledat jinak, resp. kde a jak. Google dobre pracuje pro urcity typ hledanych subjektu, pro jine neni efektivni.

Tim nepopiram legitimitu Vaseho nazoru. Znam spoustu lidi, ktere nezajima jaky je rozdil mezi svetem MS-Windows a tim druhym. Do jakeho sveta tito lide vetsinou spadnou, je filosoficka otazka nad ramec teto diskuze.

Odpoved na tuto otazku je velice komplikovana, protoze bychom museli analyzovat bazi Googlu, a to z pochopitelnych duvodu v tomto prostoru nelze.

Castecne vysvetleni muzete nalezt v tom, co ona vyznamnost vlastne je. Je to hodnota, ktera webovy prostor deli na vrstvy. Pokud nechate nahodneho uzivatele dostatecne dlouho brouzdat po webu, pak nepravdepodobneji skonci na strankach s vyssi "vyznamnosti".

Ve Vasem pripade nejsem schopen presne rict, proc ma mylix.cz takovou hodnotu. V pripade Mobil-u je to pochopitelne, protoze spousta lidi ze svych stranek odkazuje na jeho dokumenty (o palmu, mobilech atp.). Tyto potencialy se pak nascitaji. Ve Vasem pripade bude duvod pravdepodobne stejne prozaicky.

Staci ho jen najit. Google je mozna dobry stroj, ale porad jenom stroj, ktery carovat neumi.

Sokrates a Platon - no, ja jsem se uz pomerne casto ptal na dost veci, ktery jsem neznal, a obcas jsem se dozvedel i odpoved, takze asi ta teze "nemuzes se ptat na to, co neznas" neni tak docela pravdiva. Prinejmensim v jedny definici slova "znat"

Je mozny, ze mi dava Google omezeny zorny pole. Je dokonce mozny, ze to dela kvuli nejakym problemum ve svych prirazenich pageranku. Ale sam jsem se jeste nesetkal s dotazem, na kterej by mi Google nedokazal na prednich mistech najit aspon nekolik relevantnich odpovedi. Z toho vyvozuju, ze ten PageRank asi vcelku slusne funguje. (A to byl hlavni duvod a hlavni teziste my reakce - ze to as neni az tak priserne spatny)

Jakozto webdesigner bych se na to asi dival jinak, to je pravda.