Pourquoi mes systèmes de fichiers XFS consomment-ils soudainement plus d'espace et sont-ils remplis de fichiers épars ?

J'ai retrouvé la trace de ce problème lors d'une discussion sur un commit à la Arbre source XFS à partir de décembre 2010. Le correctif a été introduit dans le noyau 2.6.38 (et, bien évidemment, repris ultérieurement dans certains noyaux de distribution Linux populaires).

Les fluctuations observées dans l'utilisation du disque sont le résultat d'une nouvelle fonctionnalité ; Préallocation dynamique spéculative EOF de XFS .

Il s'agit de réduire la fragmentation des fichiers lors des écritures en continu en allouant l'espace de manière spéculative à mesure que la taille des fichiers augmente. La quantité d'espace préalloué par fichier est dynamique et dépend principalement de l'espace libre disponible sur le système de fichiers (pour éviter de manquer complètement d'espace).

Il suit ce calendrier :

freespace       max prealloc size
  >5%             full extent (8GB)
  4-5%             2GB (8GB >> 2)
  3-4%             1GB (8GB >> 3)
  2-3%           512MB (8GB >> 4)
  1-2%           256MB (8GB >> 5)
  <1%            128MB (8GB >> 6)

Il s'agit d'un ajout intéressant au système de fichiers, car il peut aider à gérer certains des fichiers massivement fragmentés avec lesquels je travaille.

L'espace supplémentaire peut être récupéré temporairement en libérant le cache des pages, les dentries et les inodes avec :

sync; echo 3 > /proc/sys/vm/drop_caches

La fonction peut être entièrement désactivée en définissant un allocsize pendant le montage du système de fichiers. La valeur par défaut pour XFS est allocsize=64k .

L'impact de ce changement sera probablement ressenti par les systèmes de surveillance/seuil (c'est ainsi que je l'ai détecté), mais il a également affecté les éléments suivants systèmes de bases de données et pourrait entraîner des résultats imprévisibles ou indésirables pour les machines virtuelles et les baies de stockage à allocation fine (elles utiliseront plus d'espace que prévu).

Dans l'ensemble, cela m'a pris au dépourvu car il n'y a pas eu d'annonce claire du changement de système de fichiers au niveau de la distribution ou même dans le suivi de la page d'accueil du site web de l'entreprise. Liste de diffusion XFS .

Modifier :
Les performances sur les volumes XFS avec cette fonctionnalité sont considérablement améliorées. Je constate une fragmentation constante de < 1 % sur des volumes qui affichaient auparavant une fragmentation de 50 %. Les performances d'écriture sont globalement en hausse !

Statistiques du même ensemble de données, comparant l'ancien XFS à la version de EL6.3.

Vieux :

# xfs_db -r -c frag /dev/cciss/c0d0p9
actual 1874760, ideal 1256876, fragmentation factor 32.96%

Nouveau :

# xfs_db -r -c frag /dev/sdb1
actual 1201423, ideal 1190967, fragmentation factor 0.87%