Web profond

Un article de Wikipédia, l'encyclopédie libre.
Aller à : navigation, rechercher
 Ne doit pas être confondu avec darknet.
image illustrant Internet
Cet article est une ébauche concernant Internet.

Vous pouvez partager vos connaissances en l’améliorant (comment ?) selon les recommandations des projets correspondants.

Le web profond, appelé aussi web invisible ou web caché (en anglais Deep web) désigne la partie de la Toile accessible en ligne, mais non indexée par les moteurs de recherche classiques généralistes (certains moteurs, tels que BASE, prennent en compte cette partie du réseau). Cette terminologie oppose « web profond » à web surfacique. Le deep web représenterait 96 % de l'intégralité du web[1].

Ne pas confondre[modifier | modifier le code]

Le web profond n'est ni le web sombre, ni un réseau d'anonymisation — les services web auxquels on peut accéder via des outils tels Tor, Freenet, I2Petc. —, ni le web opaque — indexable, mais non indexé — bien que, selon les conceptions, on peut considérer que ces deux derniers (voire les trois) en font partie.

Ressources profondes[modifier | modifier le code]

Les robots d'indexation sont des programmes utilisés par les moteurs de recherche pour parcourir le web. Afin de découvrir de nouvelles pages, ces robots suivent les hyperliens. Les ressources profondes sont celles qui ne peuvent pas être atteintes facilement par les moteurs de recherche.

On peut classer les ressources du web profond dans une ou plusieurs des catégories suivantes :

  • contenu dynamique ;
  • contenu non lié ;
  • contenu à accès limité ;
  • contenu de script ;
  • format non indexable.

(voir la section Raisons de la non-indexation pour plus de précision).

Taille[modifier | modifier le code]

Une étude de juillet 2001 réalisée par l'entreprise BrightPlanet[2] estimait que le web profond pouvait contenir 500 fois plus de ressources que le web indexé par les moteurs de recherche. Ces ressources, en plus d'être volumineuses, sont souvent de très bonne qualité, notamment parce que la compression des fichiers y est moins conséquente.

En 2008, le web invisible représenterait 70 à 75 % de l'ensemble, soit environ un trilliard de pages non indexées[3].

Web opaque[modifier | modifier le code]

Une partie très importante du web est théoriquement indexable, mais non indexée de fait par les moteurs. Certains auteurs[4] parlent dans ce cas, pour le web non profond et non indexé, de « web opaque » (opaque web) ou de « web presque visible » (nearly visible web).

Pour résumer, si le web profond et le web opaque sont tous deux accessibles en ligne aux internautes, mais non indexés par les moteurs le web opaque, lui, pourrait être indexé.

Les algorithmes des moteurs étant semblables (par exemple, PageRank), les zones indexées se recoupent en partie d'un moteur de recherche à l'autre. Les ressources matérielles des robots d'indexation ne sont pas, malgré des moyens matériels importants, à même de suivre tous les liens théoriquement visibles par eux, que le web (gigantesque) contient.

Une équipe de chercheurs allemands a étudié le comportement des robots d'indexation face à des sites contenant énormément de pages. Ils ont créé un site web composé de 2 147 483 647 pages (231 - 1). Ce site web étant un arbre binaire, il est très profond : il faut au minimum 31 clics pour arriver à certaines pages. Ils ont laissé ce site en ligne, sans le modifier, pendant une année. Les résultats montrent que le nombre de pages indexées pour ce site, dans le meilleur des cas, ne dépasse pas 0,0049 %.

Afin de résoudre ce problème de volumétrie de pages à indexer pour un site donné, le moteur Google a introduit en 2005 le protocole sitemap. Il permet, grâce à la mise à disposition du robot d'un fichier sitemap, de gagner en efficacité pour l'indexation. Ce fichier est mis à la racine du site par l'administrateur du site web.

Raisons de la non-indexation[modifier | modifier le code]

  • Les sites contiennent de plus en plus de pages dynamiques : les hyperliens de navigation sont générés à la demande et diffèrent d'une visite à l'autre.
  • Certains sites (ou partie de sites) ne sont pas liées par d'autres pages et ne peuvent donc pas être découvertes par les robots d'indexation (le seul moyen de les faire indexer est dès lors de demander explicitement cette indexation au moteur de recherche, ce qui est rarement fait, par ignorance de ce procédé). Ce contenu est connu comme des pages sans backlinks (ou inlinks).
  • Il faut parfois remplir convenablement un formulaire de critères de recherche pour pouvoir accéder à une page précise. C'est le cas de sites exploitant des banques de données.
  • Certains sites nécessitent une authentification (requérant un login et un mot de passe) avant d'accéder au contenu réel : c'est le cas de certains sites payants et des sites avec des archives payantes (journaux en ligne, bases de données de météorologie, etc.).
  • Les pages web peuvent dans leur conception rendre difficile leur indexation. Elles peuvent en particulier contenir des éléments HTML frameset au lieu des éléments classiques body. Les balises consistant en un fichier robot.txt inséré dans le code d'une page permettent de protéger son copyright, de limiter les visites ou préserver le site d’accès trop fréquents. Or un robot n'est guère capable d'émettre des requêtes pertinentes ; sa visite d'indexation se réduit donc aux seules pages accessibles en suivant des URL statiques.
  • L'utilisation du langage JavaScript (comme Ajax), mal compris, voire incompris par les robots[5], pour lier les pages entre elles constitue souvent un frein à leur indexation.
  • Le web invisible est également constitué des ressources utilisant des formats de données incompréhensibles par les moteurs de recherche. Cela a été longtemps le cas du format PDF ou ceux de Microsoft Office (Excel, Word, Power Point…), le seul format reconnu initialement étant le langage natif du Web, l’HTML. Les grands moteurs de recherche (Google, Yahoo!, Bing…) sont capables d'indexer avec plus ou moins d'efficacité les documents utilisant ces formats[6],[7]. Google reconnaît les pages au format flash[8] depuis le début de 2008.
  • Les moteurs de recherche classiques n’indexent qu’entre 5 et 60 % du contenu des sites accueillant de grandes bases de données : Internet Movie Database, PubMed, le National Climatic Data Center qui met en ligne une base de données contenant 370 000 Gio, alors que celle de la NASA est de 220 000 Gio[9].
  • Les moteurs indexent partiellement les pages volumineuses : Google et Yahoo! se contentent de 500 kilooctets[10].

Web privé[modifier | modifier le code]

Certaines pages sont inaccessibles aux robots du fait de la volonté de l'administrateur du site web. L'utilisation du fichier robots.txt notamment, mis à la racine d'un site web, permet de bloquer tout ou partie du site aux robots qui coopèrent, le site restant accessible aux internautes. Il est également possible d'utiliser l'élément meta robot dans le même but ainsi que pour empêcher de suivre des liens et interdire la mise en cache de pages (indépendamment de l'autorisation d'indexation). Ces pages sont alors parfois rangées dans une catégorie connexe à celle du web profond : le web privé (private web).

Notes et références[modifier | modifier le code]

  1. (fr) « Web, 4% seulement du contenu est visible, où se cache le Deep Web ? - GinjFo », sur GinjFo (consulté le 8 mars 2016)
  2. (en) Michael K. Bergman, « The Deep Web: Surfacing Hidden Value », The Journal of Electronic Publishing 2001, vol. 7, no 1.
  3. Francis Pisani et Dominique Piotet, Comment le web change le monde : l'alchimie des multitudes,  éd. Pearson, 2008 (ISBN 978-2-7440-6261-2), p. 188.
  4. (en) Chris Sherman et Gary Price, The Invisible Web, septembre 2001
  5. (en) « Understanding web pages better », sur Official Google Webmaster Central Blog (consulté le 8 mars 2016)
  6. (en) « Can A Search Engine Like Google.com Index My PDF Files? »
  7. (en) « Make your PDFs work well with Google (and other search engines) ».
  8. (en) « Webmaster Tools Help : Flash and other rich media files ».
  9. Jean-Paul Pinte, « Le Web invisible : l'antre du cybercrime », Pour la Science, no 70,‎ janvier-mars 2011, p. 102
  10. Jean-Paul Pinte, « Le Web invisible : l'antre du cybercrime », Pour la Science, no 70,‎ janvier-mars 2011, p. 103

Voir aussi[modifier | modifier le code]

Articles connexes[modifier | modifier le code]

Liens externes[modifier | modifier le code]