Place restante a moins de 80%

[Ashka]

Bonjour à tous,

TrueNas me dit qu'une grappe est a 85% de place utilisé avec un triangle rouge et me dit que ca peu jouer sur les performances ?
a quel niveau SVP car je trouve que ca fonctionne comme au début ??

Je veux maximiser la place donc je vais remplir encore je pense.
Mais je voudrais votre avis .

Merci bien.

 

[Pitfrr]

Bonjour,

En gros, il est conseillé de ne pas remplir à plus de 80-85% un volume pour ne pas trop dégrader les performances.
Après cela dépend de l'utilisation. Typiquement, si c'est pour une utilisation domestique, on peut être un peu plus souple sur la limite.
Par contre il ne faut jamais remplir le volume à 95-100%. Au risque de ne plus pouvoir accéder au volume.

Bref pour résumer, la bonne pratique, je dirai, pour une utilisation domestique, quand on arrive à 85-90%, on peut commencer à se poser des questions et au delà, on peut songer activement à voir comment gagner de la place (et s'assurer qu'on a des backups disponibles pour éviter de se retrouver avec un volume bloqué et ne plus pouvoir accéder à ses données!).

 

[maximelu]

Hello,

Je rejoins ce que dit Pitfrr et de mon expérience et selon la taille du FS ça commence à se dégrader vers 85-90%, 95% sur du très gros (64*8To).

On le voit bien dans les tests :

Il faut prendre en compte l'overhead de ZFS qui est de l'ordre de 3-4% d'espace utilisé pour son propre usage.
Il y a aussi les SLOG qui ne sont pas du tout marqué dans l'espace occupé et pourtant bien présents.

Ensuite il faut garder assez de metaslab disponibles : il s'agit grossièrement de découper chaque disque en 250 parts environ et chacune est affectée à un travail spécifique :
- Parité
- Donnée
Ils ne peuvent pas être utilisés que partiellement : selon l'état de la réplication, un ou plusieurs peuvent être réservées, ainsi l'espace disque disponible est plus faible que celui est montré.

La commande zpool list permet d'avoir une idée rapide de la fragmentation (je rappelle que ZFS ne se défragmente pas), sa cause principale est que les pools sont trop remplis. (sur ssd ça n'a pas de grande importance)

La commande zdb -U /data/zfs/zpool.cache -m <NOM DU POOL> permet de voir comment sont structurés les metaslab et ainsi identifier ceux qui sont réservés (il y a sans doute des outils pour le faire de manière visuel)


Conclusion :

La limite de remplissage existe bien, donc attention avec :)

 

[Ashka]

Ah très bien merci pour tes précisions @maximelu mais du coup sur ton graph je vois que les perfs baisses déjà a 50% de remplissage c'est sérieusement abusé quand même....

bon même si moi sur mon pool 5*12To je suis toujours a 300Mo/s environ en transfert (écriture) en RZ2.

par contre sur un disque j'ai pas fait gaffe , c'est un disque seul de 300Go qui me sert pour les téléchargement il est plein ça dit 100% et espace libre 0 byte c'est un disque iScsi pour mon pc principal du coup il a disparu...
comment je fais maintenant pour le vider et récup ce qu'il y a dessus ?? afin de le vider ?

Merci bien.

 

[maximelu]

Il y a d'autres facteurs qui jouent sur la baisse de performance mais elle est bien réelle oui.

Pour le disque c'est une bonne question,

Si j'étais dans cette situation j'effacerai toutes les snapshot sauf la plus récente
Ensuite je ferais une réplication via l'interface vers un autre Pool.

Mais je ne me suis jamais trouvé dans cette situation donc il faut voir si c'est la bonne solution.

 

[Ashka]

Il y a d'autres facteurs qui jouent sur la baisse de performance mais elle est bien réelle oui.

Pour le disque c'est une bonne question,

Si j'étais dans cette situation j'effacerai toutes les snapshot sauf la plus récente
Ensuite je ferais une réplication via l'interface vers un autre Pool.

Mais je ne me suis jamais trouvé dans cette situation donc il faut voir si c'est la bonne solution.

d'accord merci bien, je vais voir :)

PS: j'ai essayé mais ca marche pas la replication.. (c'est toujours compliqué avec trueNas !!! )

je pense c'est du au fait que mon Disque est un Zvol et que je veux copier dans un Dataset du coup il veut pas...

PS2: au lieu de creer un dataset j'ai créé un zVol et ca a l'air de fonctionner.

 

[Etorix]

Ah très bien merci pour tes précisions @maximelu mais du coup sur ton graph je vois que les perfs baisses déjà a 50% de remplissage c'est sérieusement abusé quand même....

C'est inhérent à un système copy-on-write, qui a toujours besoin d'espace libre.

par contre sur un disque j'ai pas fait gaffe , c'est un disque seul de 300Go qui me sert pour les téléchargement il est plein ça dit 100% et espace libre 0 byte c'est un disque iScsi pour mon pc principal du coup il a disparu...
comment je fais maintenant pour le vider et récup ce qu'il y a dessus ?? afin de le vider ?

CoW : Récupérer de l'espace demande de l'espace libre !
Il ne faut jamais, jamais, JAMAIS atteindre 100% d'occupation.
À ce stade, il peut être nécessaire d'attacher un disque supplémentaire (stripe) pour obtenir de l'espace libre, au moins de manière temporaire

Et pour un zvol ou iSCSI (blocs), la limite recommandée est moins de 50% d'utilisation. 80% est la recommendation pour du stockage de fichiers — avec des réécritures peu fréquentes.

Resource - The path to success for block storage

ZFS does two different things very well. One is storage of large sequentially-written files, such as archives, logs, or data files, where the file does not have the middle bits modified after creation. This is optimal for RAIDZ. It's what most...

www.truenas.com

 

[Ashka]

C'est inhérent à un système copy-on-write, qui a toujours besoin d'espace libre.


CoW : Récupérer de l'espace demande de l'espace libre !
Il ne faut jamais, jamais, JAMAIS atteindre 100% d'occupation.
À ce stade, il peut être nécessaire d'attacher un disque supplémentaire (stripe) pour obtenir de l'espace libre, au moins de manière temporaire

Et pour un zvol ou iSCSI (blocs), la limite recommandée est moins de 50% d'utilisation. 80% est la recommendation pour du stockage de fichiers — avec des réécritures peu fréquentes.

Resource - The path to success for block storage

ZFS does two different things very well. One is storage of large sequentially-written files, such as archives, logs, or data files, where the file does not have the middle bits modified after creation. This is optimal for RAIDZ. It's what most...

www.truenas.com

Merci bien, mais bon c'est pas très rentable du coup moins de 50% d'espace cela ma couté une fortune de mettre tout ces disques si c'est pour utiliser que 45% de leur place (moins déjà la ou les parités !!...on est a quoi 25% d'espace faut pas déconner..) perso je vais rester a 85% max cela ne pose pas de soucis "visible" niveaux perfs ect.. pour moi en tout cas, après les autres NAS je sais pas. Par contre on m'avait conseillé d'enlever mes cartes RAID materiel pour metre des cartes HBA ce que j'ai fait mais j'ai vu une net difference de baisse des perfs, avant j'etais au taquet du 10G ethernet mais maintenant avec les cartes HBA je suis a 300Mo/s max...

Sinon resultat de l'histoire j'ai pu tout recuperer, recreer le Zvol et remettre les fichiers dessus en retirant le sur plus. Je ferai gaffe de pas etre a plus de 85% maintenant. Merci a vous

 

[Ashka]

Re bonjour @maximelu et @Etorix ,

finalement j'ai suivi vos conseils, j'ai supprimé plus de 2To de données sur le Pool mais ça ne ce met pas a jour ca marque tjs 87% d'espace utilisé alors que j'ai libéré plus de 2To de données ?? comment faire pour mettre a jour svp ?

Merci à vous.

PS: c'est bon j'ai supprimé les instentanés sauf le dernier et la place c'est mis a jour :)