Déduplication

Un article de Wikipédia, l'encyclopédie libre.
Aller à : navigation, rechercher
Exemple de déduplication de blocs de données

En informatique, la déduplication (également appelée factorisation ou stockage d'instance unique) est une technique de stockage de données, consistant à factoriser des séquences de données identiques afin d'économiser l'espace utilisé.

Chaque fichier est découpé en une multitude de tronçons. À chacun de ces tronçons est associé un identifiant unique, ces identifiants étant stockés dans un index. L'objectif de la déduplication est de ne stocker qu'une seule fois un même tronçon. Aussi, une nouvelle occurrence d'un tronçon déjà présent n'est pas à nouveau sauvegardée, mais remplacée par un pointeur vers l'identifiant correspondant.

La déduplication est utilisée en particulier sur des solutions du type VTL (Virtual Tape Library) ou tout autre type de système de sauvegarde.

Méthodes de déduplication[modifier | modifier le code]

Déduplication hors ligne[modifier | modifier le code]

Les données à sauvegarder sont recopiées sur un espace disque tampon, et dans un deuxième temps une recherche des blocs en double est réalisée. Cette méthode nécessite un espace de stockage important. C'est le principe des solutions Falconstor ou Quantum DXi en firmware 1.x par exemple.

Déduplication en ligne[modifier | modifier le code]

Les données à sauvegarder sont analysées "à la volée", et une table d'index des blocs identiques est gérée (solution Data Domain de EMC Corporation ou IBM ProtecTIER)[1].

Déduplication à la source[modifier | modifier le code]

Des agents répartis sur les serveurs à sauvegarder analysent les données à la source (solution EMC Avamar notamment)[1].

Principe[modifier | modifier le code]

L'index créé lors de la sauvegarde est utilisé pour restituer les données au bon endroit. Les fichiers ou les blocs en double dans l'index sont dupliqués au moment de la restauration. L'expérience montre qu'en pratique le taux de déduplication augmente dans le temps, car en pratique peu de données changent entre deux sauvegardes totales. D'autre part le taux de réduction obtenu dépend fortement du type de données traitées[2].

Inconvénients de la déduplication[modifier | modifier le code]

  • Risque de perte de données car les données ne sont pas en double et donc le support utilisé doit être fiable. La réduction de la taille des sauvegardes est un avantage par rapport à d'autres types de sauvegarde, mais au détriment de la sécurité des données. Par conséquent, il est recommandé de créer des doubles des supports de stockage.
  • Perte du format d'origine, ce qui dans certains cas pose des problèmes de conformité aux contraintes légales (par exemple Bâle II). Certaines solutions proposent pour cela de générer les données sensibles sur cartouche au format initial, pour s'affranchir d'une éventuelle défaillance de la VTL par exemple.

Avantage de la déduplication[modifier | modifier le code]

  • L'avantage le plus important est la réduction d'espace occupé par les sauvegardes : selon le cabinet Gartner, cette technologie permet de diviser par 20 voire par 30 les besoins en espace de stockage[3].
  • Un avantage indirect, conséquence du précédent, est la diminution de la bande passante nécessaire à la sauvegarde dans le cas de la déduplication à la source[4].

Solutions de déduplication[modifier | modifier le code]

Logiciels libres (ou assimilés)[modifier | modifier le code]

Logiciels propriétaires de déduplication à la cible (VTL ou Stockage disque)[modifier | modifier le code]

Les VTL (les Virtual Tape Libraries, ou bandothèques virtuelles, présentent aux systèmes l'équivalent d'un ou plusieurs lecteurs de bandes, avec des capacités de bandes virtuelles modifiable. Une solution de sauvegarde supplémentaire est en général nécessaire.)

  • FalconStor
  • Rocksoft (Adic/Quantum)
  • Sepaton

Le Stockage Disque (les solutions présentent au systèmes un disque ou dossier en partage réseau, utilisable directement, ou bien une solution complète de sauvegarde exploitant la déduplication de manière exclusive)

  • NetApp Data ONTAP (Stockage disque)
  • IBM ProtecTIER, (ex Diligent) (Stockage disque)
  • EMC Avamar (Solution de sauvegarde complète)
  • EMC Datadomain (Stockage disque)
  • Symantec PureDisk (Solution de sauvegarde complète)
  • Quantum DXi (Stockage disque)
  • Quantum V-series (Appliance virtuelle de déduplication à la cible)
  • Dell DR4000 Series (Appliance physique de déduplication à la cible)

Logiciels propriétaires de déduplication à la source (agent sur le serveur à sauvegarder)[modifier | modifier le code]

Logiciels propriétaires de déduplication à la source (sans agent sur le serveur à sauvegarder)[modifier | modifier le code]

Voir aussi[modifier | modifier le code]

Sur les autres projets Wikimedia :

Articles connexes[modifier | modifier le code]

Liens externes[modifier | modifier le code]

Notes et références[modifier | modifier le code]

  1. a et b http://www.01net.com/article/333088.html
  2. http://www.01informatique.fr/Archives/Deduplication-sauvegarder-moins-pour-sauvegarder-mieux/
  3. Article lemondeinformatique du 4/6/2009
  4. http://www.zdnet.fr/actualites/it-management/0,3800005311,39389132,00.htm
  5. (en) [1]
  6. (en) [2]
  7. (fr) Sortie de DragonFly BSD 2.10
  8. http://www.opendedup.org/
  9. (en) Open Source data deduplication for less.