Uživatel LinkedIn může svůj profil označit jako veřejný, aby jej vyhledávače viděly. V nastavení "Manage public profile settings" se dá určit, co má být veřejně vidět. Jde si zvolit i URL za lomítkem, aby se na profil dalo odkazovat smysluplným textem.
Pak asi má smysl, aby tam Google chodil...
A ten 27 953 bajtů velký robots.txt je co?
# Notice: If you would like to crawl LinkedIn,
# please email whitelistcrawl@linkedin.com to apply
# for white listing.
User-agent: Googlebot
Disallow: /addContacts*
Disallow: /addressBookExport*
Disallow: /analytics/
Disallow: /answers*
Disallow: /cap/
Disallow: /companyDir*
Disallow: /connections*
Disallow: /csp/
Disallow: /edurec*
Disallow: /endorsements
Disallow: /find/
Disallow: /groupAnswers*
Disallow: /groupSharingMsg*
Disallow: /inviteFromProfile*
Disallow: /inviteMany*
Je to Google, ale nedělá nic nekalého, protože Linkedin roboty nezakazuje - nevidím meta tag ROBOT s hodnotou noindex ve zdrojovém html kódu stránky Linkedin.
Obdobně může jejich stránky scanovat kdokoliv jiný, ale určitě sem patří Google a ten si musí stránky nebo části stránek uložit, jinak by nezaindexoval.