Aide pour Monter un serveur mini 12 disques SAS3 12Gb/s

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
Bonjour Chère communauté, merci d'avance pour votre aide.
J'ai acheté un serveur HP DL380 Gen9 pour héberger mes 5500 films (ça représente 60 To à ce jour, j'essaye d'optimiser mais d'autres s'ajouteront donc le chiffre variera peu).
Il accepte un maximum de 15 disques durs :
12 disques remplaçables à chaud en façade et 3 à l'arrière du boîtier.
Il y a 2 Xeon e5-2680 v4 et 256 Go de Ram DDR4-2400T (16 x 16 Go)
J'ai acheté 12 disques durs Toshiba 6To 512e en SAS 12G (réf. MG04SCA60EE) et 1 SSD Samsung PM1643 960Gb 512e également en SAS 12G (réf. MZ-ILS960B).
Ils seront gérés par une carte Raid HBA Dell HBA345 (identique à la Broadcom Lsi 9400-16i HBA- I/O Controller: SAS3416) qui accepte un maximum de 16 disques, parfait pour mon usage !
Malheureusement, le serveur était vendu avec un Backplane (fond de panier) limité à seulement 4 disques.
Cela semble simple, je dois acheter le Backplane pour 12 disques (réf. HP 777284-001) et éventuellement une Backplane arrière pour 3 disques supplémentaires (réf. HP 729833-001 + 747604-001).
1) Suis-je obligé de prendre cette Backplane (pour ceux qui connaissent les serveurs Proliant Gen9)?
2) Quel OS est adapté pour accéder à mes 5500 films et en ayant le truc le plus sécurisé qui soit au niveau de l'intégrité des données?
TrueNAS Scale? Windows Server 2019 (actuellement installé) ? Windows 11 Pro qui me rappelle Mac Os?
J'utilise Mac depuis 1994 et j'en suis très content. Mais un serveur 73To (sans intégrité des données), ils savent pas faire à prix démocratique (mon serveur revient à 2500€ et est très puissant).
Voilà ce que je lis sur le dernier Windows 11 :

Le système de fichiers résilient (ReFS) fournit de nouvelles fonctionnalités qui permettent de détecter avec précision les endommagements, mais aussi de les corriger en ligne, ce qui contribue à améliorer l’intégrité et la disponibilité des données. Si un volume est endommagé et qu’une autre copie des données endommagées n’existe pas, ReFS supprime les données endommagées de l’espace de noms, comme le fait Apple. Ainsi, on peut perdre une centaine de films en cas de pannes mais pas la totalité. Et il y a aussi épurateur, le scanneur d’intégrité des données. Ce programme de nettoyage analyse régulièrement le volume pour identifier les endommagements latents et déclencher de manière proactive la réparation des données endommagées! Sans compter que W11 gère mieux le cache, ça détecte automatiquement la présence d'un SSD et lui alloue l'accélération en écriture de données. En regroupant les écritures et réécritures, cela réduit au maximum le trafic cumulatif sur les disques donc augmente leur fiabilité.​

Merci beaucoup pour votre aide...
Chris
 
Last edited:

Heracles

Wizard
Joined
Feb 2, 2018
Messages
1,401
Ils seront gérés par une carte Raid

No-Go ici : JAMAIS de carte Raid matérielle avec TrueNAS, pas même en mode JBOD.

14 disques durs Toshiba 6To
(60 To à ce jour)

No-Go numéro 2 ici : 2x RaidZ2 de 7 disque donne exactement 60T. D'une part, les disques sont toujours moindres que leur taille nominative. D'autre part, il ne faut jamais planifié un serveur et son stockage pour qu'il dépasse 50% au jour 1. (Il ne doit jamais dépasser 80% et ajouter du volume est long et coûteux. Il faut se donner de l'air....)

No-Go numéro 3 : Aucun plan de sauvegarde mentionné malgré un volume énorme. Aucun serveur, TrueNAS ou autre, ne peut être plus qu'un point de défaillance critique. Les sauvegardes sont essentielles pour toutes les données ayant une valeur.

Ainsi, il faudra retourner à la table dessin...

Il faudrait 14 disques durs de 15T, plus de disques, il faudrait transcoder les films à la main pour en réduire la taille, ... Dans tous les cas, le plan actuel n'est pas viable.
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
No-Go ici : JAMAIS de carte Raid matérielle avec TrueNAS, pas même en mode JBOD.




No-Go numéro 2 ici : 2x RaidZ2 de 7 disque donne exactement 60T. D'une part, les disques sont toujours moindres que leur taille nominative. D'autre part, il ne faut jamais planifié un serveur et son stockage pour qu'il dépasse 50% au jour 1. (Il ne doit jamais dépasser 80% et ajouter du volume est long et coûteux. Il faut se donner de l'air....)

No-Go numéro 3 : Aucun plan de sauvegarde mentionné malgré un volume énorme. Aucun serveur, TrueNAS ou autre, ne peut être plus qu'un point de défaillance critique. Les sauvegardes sont essentielles pour toutes les données ayant une valeur.

Ainsi, il faudra retourner à la table dessin...

Il faudrait 14 disques durs de 15T, plus de disques, il faudrait transcoder les films à la main pour en réduire la taille, ... Dans tous les cas, le plan actuel n'est pas viable.
je peux utiliser une carte raid sans faire de raid, juste pour concentrer les 12 disques car la carte-mère est limitée à 8 disques et je crois que c'est du SAS 6Gb/s alors que mes disques et la carte HPe P840 sont en 12Gb/s
Je peux faire 2 grappes ou un Raid50. J'aurai besoin de plus de 60To à moyen terme...
J'ai actuellement 5 disques de 14To et c'est très viable.
Mais aucune protection donc si l'un deux tombe en panne, ce qui est dessus est perdu!
D'où l'achat de ce serveur et de 14 disques de 6To qui feraient un Raid50 de 72To et je garde mes 5 disques de 14To donc j'aurai 2 fois 70To environ.
Les films sont déjà en x265, un 4K pèse entre 4Go et 70Go selon l'encodage. Les meilleurs sont encodés en plus haute qualité, les films mineurs en plus basse qualité, voilà tout. Je ne peux pas avoir 5500 films en très haute qualité, 1000 films en 4K de 70Go ça ferait déjà 70 TeraOctets
 

Heracles

Wizard
Joined
Feb 2, 2018
Messages
1,401
je peux utiliser une carte raid sans faire de raid

Non tu ne peux pas.... Ou en fait, Oui tu peux et le jour où tu perdras tout, personne ne pourra plus rien pour t'aider. Si tu sais lire l'anglais, voici quelques éléments en ce sens :

Pourquoi pas de Raid matériel

Tout perdre quand on ne respecte pas les consignes

J'ai actuellement 5 disques de 14To et c'est très viable.

Non ça ne l'est pas.... ZFS fonctionne en mode Copy-On-Write. Ainsi, chaque modification faite dans le système de fichier consiste en premier lieu à copier l'original et ensuite y faire la modification. Ainsi, le moindre changement demande de l'espace disque disponible. À nouveau, plusieurs personnes ont perdu leurs données lorsque leurs pools ont atteint la limite de 100%. ZFS ne pouvait plus rien faire.

D'où l'achat de ce serveur et de 14 disques de 6To qui feraient un Raid50 de 72To

Encore une fois, Non, ce n'est pas viable. L'autre raison ici est qu'en cas de bris d'un disque dur, il faudra remplacer ce disque avec les données des autres disques. Mais voilà, il n'y aura plus la moindre redondance pendant cette étape cruciale. Il faudra donc que tous les disques restants retournent 100% de leurs données sans la moindre erreur. Ainsi, il faudra relire 6x 6TB, donc 36TB, sans la moindre erreur. Juste avec le taux normal d'erreur d'un disque, la probabilité de lire autant de données sans pépin est presque nulle. RaidZ1, ou une structure de disques n'ayant qu'un seul disque de parité, n'est pas une protection appropriée pour des disques de 1 TB et plus.

Les films sont déjà en x265, un 4K pèse entre 4Go et 70Go selon l'encodage.

Tant mieux si tu as déjà fait un premier transcodage pour sauver de la place. Il demeure que ton plan de serveur n'est pas viable. Libre à toi de le faire malgré tout mais quand ton château de cartes s'écroulera, personne ne pourra t'aider à récupérer quoi que ce soit.
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
Pour rester concret, 12 disques de 6To, c'est pas assez?
Ça fait 72To, c'est quand même pas mal.
Ce n'est pas un projet, c'est ce que j'ai actuellement.
J'avais un synology puis un Qnap. Depuis 2 ans, je suis passé sur des disques externes usb-c
Mes NAS étaient en Raid 5
J'ai acheté ce serveur pour sa flexibilité. Il est plus... évolutif, nettement plus puissant et avec une carte SAS externe, je pourrai rajouter un boitier de 12 disques supplémentaires. Mais là il revient à 2500€ c'est déjà un budget (mais équivalent à un NAS avec par exemple 6 disques de 12To).
Et je suis libre sur l'OS
 

Heracles

Wizard
Joined
Feb 2, 2018
Messages
1,401
Pour rester concret, 12 disques de 6To, c'est pas assez?
Ça fait 72To, c'est quand même pas mal.

72T est impressionnant si on ne regarde que le chiffre. Par contre, une fois que l'on sait qu'il y a le besoin de stocker 60T dès le jour 1, Non, ce n'est vraiment pas beaucoup! Au point d'être insuffisant.

Depuis 2 ans, je suis passé sur des disques externes usb-c
Mes NAS étaient en Raid 5

Rien n'a cédé pendant ces 2 ans et tant mieux pour toi. Il reste que ta situation était loin d'être aussi robuste que tu ne le crois. En exemple, tu n'as probablement jamais remplacé de disque dur sur 2 ans. Ainsi, un Raid0 sans redondance n'aurait pas perdu de données lui non plus... Est-ce que cela signifie que Raid0 aurait été acceptable ?

J'ai acheté ce serveur pour sa flexibilité. Il est plus... évolutif, nettement plus puissant et avec une carte SAS externe, je pourrai rajouter un boitier de 12 disques supplémentaires.

Il est capable de plus, cela ne fait aucun doute. Est-il capable d'assez par rapport à ton besoin, c'est ici que je te recommande que Non.

Mais là il revient à 2500€ c'est déjà un budget

En effet. Ainsi, à toi de voir comment tu veux gérer la situation :
--Tu vas avec ta solution actuelle en sachant qu'elle restera fragile et non recommandée ?
--Tu ajustes le matériel aux besoins actuels en prenant des disques plus gros, plus nombreux, etc.
--Tu ajustes le besoin en fonction du matériel et tu ré-encodes ton contenu pour que la taille moyenne par fichier descende à 12 ou 15G chacun plutôt que de monter à 70.

Sincèrement, ici, je viens tout juste d'encoder mes films pour ma librairie mise en ligne avec Jellyfin. J'ai pris Handbrake et mon iMac a travaillé pendant 2 mois non-stop à tout ré-encoder sur le format que j'ai choisi. Les DVDs ordinaires ont une taille moyenne de 1.5G et les Bluray 1080P font aux environs de 12 à 15G chacun en moyenne. Je n'ai pas de 4K et j'ai établi que je n'en voulais pas non plus. À cette résolution, l'image est trop parfaite et je n'ai plus le sentiment d'être dans un film. Je suis sur le plateau de tournage avec les acteurs et le décor. Je te suggère de tester quelques paramètres différents pour tes formats 4K et définis, de façon objective, ce que tu peux utiliser comme paramètres pour avoir la taille la plus petite possible tout en gardant une qualité qui soit suffisante. Avec cette formule, ta librairie pourrait bien passer de 60T à moins de 20T (divisée par 3 ou plus). Avec une telle réduction, ton stockage se portera beaucoup mieux et tu pourras entreprendre une stratégie de sauvegarde avec ton TrueNAS comme copie principale et ton ancien NAS comme sauvegarde.

De cette façon tu auras qqch de beaucoup plus solide et recommendable tout en restant dans ton budget.
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
Au moment de transférer ma bibliothèque!que, je pourrais en effet convertir les fichiers les plus lourds! Mais l'immense majorité de ma collection, ce sont déjà des bluray 1080p HDLight qui pèsent 3 à 4 Go. Dans les 5500, Il y a 4500 films Light et 1000 films "lourds" que je pourrais peut-être réduire en effet. Tu me parles de tes fichiers entre 12 et 15 Go. Si tu avais 5500 films, ça ferait 77 To et non 20 To :smile:
Pour ce qui est des pannes, j'ai des disques durs achetés en 2010 qui fonctionnent toujours. Il y a une différence entre fiabilité et intégrité des données. Le risque de panne est faible. Le temps moyen entre pannes de mes HDD est de 1.400.000 heures, c'est du disque dur entreprise. Celui de mon SSD est de 2.000.000 d'heures. Avec un DWPD de 3 (en tournant non stop, on peut effacer et tout réécrire chaque jour pendant 3 ans). Le fait que le risque de panne soit aussi faible veut-il dire qu'on est tranquille ? Non. Si les données sont précieuses,(dans un cadre professionnel par exemple), on ne peut pas se contenter du MTBF. Mon entreprise avait un stockage disques durs en Raid + une double sauvegarde quotidienne sur bandes magnétiques. Mes 5500 films sont-ils si précieux que je dois investir 5000 € de matériel? Non. Mais c'est mon choix. Ma liste (un simple tableau Excel) est plus importante! Quoi voir dans chacun des 22 genres cinématographiques? Dans quelle qualité? Dans quel ordre? On n'a pas assez d'une vie pour regarder 5500 films, j'en ai supprimé une centaine et j'essaierai d'en effacer encore. Comme on n'a pas le temps de tout voir, il faut justement une liste. Si on a adoré un film d'un réalisateur comme Aki KAURISMÄKI, alors on peut en regarder d'autres! Si on a trouvé son meilleur film chiant, il faut passer sur autre chose. En regardant beaucoup de films, on devient plus exigeant, on se rapproche de certaines critiques de cinéma. Tous les films sont notés par les critiques les plus connues et on me dit souvent que les critiques, ça veut rien dire! Faux, avec le temps, je sais si mon goût se rapproche plus ou moins de telle critique. Télérama est exigeant et préfère!re les films sopporiphiques, ils seront très durs avec des films d'action et vont encenser des films contemplatifs. Les goûts et les couleurs... Pour moi, le cinéma dépend du moment où on le regarde. D'où mon classement en 22 genres. Un film sert à :
1) s'émouvoir (triste, heureux, bouleversé),
2) réfléchir, se remettre en question, s'instruire
3) se divertir (en prendre plein les mirettes)
Quand on a les trois, c'est un chef d'œuvre !
Souvent, le troisième point est suffisant. Mais de moins en moins. Midnight in the Switchgrass, avec Bruce Willis, c'est un navet. Ça ne mérite pas d'être conservé. Alors que beaucoup passeront un bon moment. Et s'ennuieront à mourir devant Andreï Roublev, Dies irae, Je suis un évadé, M le maudit, Metropolis, Les trois lumières, L'aurore,... considérés comme des classiques incontournables! J'ai voulu garder une mémoire. Si je perds tout, je m'en remettrai. Ma liste me permettra quand même de regarder au moins un film ou une série par jour. En streaming, cela revient moins cher qu'en dépensant des milliers d'euros pour su stockage hyper sécurisé! Mais c'est juste mon choix. D'autres vont ripper leurs films, posséder les originaux et faire une double sauvegarde numérique. C'est beau, ils doivent vraiment trouver ce film précieux. Beaucoup de mes films sont quotidiennement jetés car remplacés par une nouvelle version remasterisée.
PS: j'ai été chef de produit chez universal, j'ai eu des milliers de DVD et Blu-Ray en cadeau...
 

Attachments

  • 1637823159417.png
    1637823159417.png
    9.1 KB · Views: 137

Heracles

Wizard
Joined
Feb 2, 2018
Messages
1,401
Si tu avais 5500 films, ça ferait 77 To et non 20 To
Effectivement, ma librairie est beaucoup plus modeste.... Quelques 200 films et non 5,500...

des bluray 1080p HDLight qui pèsent 3 à 4 Go

Cela suggère effectivement un encodage qui offre un bon ratio volume / qualité.

Pour ce qui est des pannes, j'ai des disques durs achetés en 2010 qui fonctionnent toujours

Tout comme ici, j'ai déjà remplacé 3 disques neufs sous garantie, donc dans les 2 premières années. Ils n'étaient pas complètement foutus mais ils commençaient à montrer de premiers signes de défectuosité. Un risque avec une série de disques tous aussi vieux, c'est qu'ils risquent de flancher plusieurs à la fois. Surtout quand viendra le temps d'en remplacer un :
Un premier disque brisera.
Tu le remplaceras et lanceras le processus de reconstruction.
Ce processus poussera tous les autres disques à fond pour relire les 36T de données nécessaires à la reconstruction.
Cet effort très lourd pourrait fort probablement pousser les autres disques fatigués à flancher aussi.
De plus, cet effort ira relire tous les secteurs des disques. Si des secteurs défectueux n'ont pas été sollicités depuis longtemps, ils n'auront pas encore été détectés et leurs erreurs feront échouer la reconstruction.

Le risque de panne est faible

Ici, tu confonds probablement risque et probabilité. La probabilité illustre à quel point un événement est plausible, à quel point il a une chance de se produire. Le dommage est la conséquence de cet événement, sans égard à la probabilité. La combinaison des deux représente le risque. Ainsi, la conséquence des pannes dont je te parle est la perte totale de toutes tes données. Est-ce que ce dommage est mineur, moyen ou majeur, cela relève de toi. Ici, les membres seniors comme moi considèrent toujours la perte de toutes les données comme un incident majeur.

Concernant la probabilité, l'expérience des membres seniors démontre que celle-ci est plus grande que celle anticipée par les nouveaux arrivants. Ainsi, tu la considères faible mais en réalité, avec une carte Raid matérielle, un pool plein et plus encore, elle est moyenne sinon élevée. Ainsi, une probabilité même moyenne et un dommage majeur représente un risque très grand.

Mes 5500 films sont-ils si précieux que je dois investir 5000 € de matériel? Non. Mais c'est mon choix

Parfait alors. Donc vas-y avec le plan que tu souhaites. Il demeure que je ne qualifierai pas ce plan de bon ou de robuste malgré tout.

ZFS est une technologie complètement différente de ce qui opérait dans Synology, QNap et autres. Pour remplir son rôle, ZFS doit voir et manipuler lui-même les disques durs physiques, d'où l'incompatibilité avec un contrôleur Raid.

Un autre élément est que pour garantir son intégrité, ZFS fait une inspection régulière de toutes ses données (scrub). Ainsi, les disques durs seront beaucoup plus sollicités qu'avant. Étant plus sollicités, ils peuvent aussi flancher davantage. Le principe du Copy-On-Write est lui aussi plus exigeant qu'un autre système de fichiers.

Donc pour toutes ces raisons, un stockage rempli à 85% au jour 1 (60 sur 72), avec RaidZ-1 (un seul disque de redondance par vdev), avec des disques de 6T (trop pour RaidZ-1) et sans sauvegarde n'a rien d'une solution recommendable. Tu es libre de l'appliquer si tu crois que cela te convient tout de même mais les individus qui offrent de l'aide sur ce forum-ci ne seront pas en mesure de t'aider le jour où un pépin arrivera.

Bonne chance dans ton projet,
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
Merci pour ces éclaircissement, je suis à même de me remettre en question! Mes HDD 14To sont remplis à 95% pour 4 d'entre eux, je prends donc un risque :smile:
Vos remarques sur la conception logicielle du serveur me fait m'interroger sur le système de fichiers à adopter. Etant sur Apple actuellement, c'est assez simple, j'utilise l'APFS.
Sur Linux, c'est ZFS, un système créé il y a une vingtaine d'années par Sun ? C'est sûrement mieux que le FAT32 qu'on a vu traîner sur Windows pendant des lustres ou que ReiserFS dans les premiers ordinateurs sous Linux mais ça sonne encore 20ème siècle. Est-ce adapté au stockage hybride?
Le système de fichiers est capital dans l'architecture logicielle d'un serveur. Or aujourd'hui, les données sont stockées sur des systèmes hybrides. Mon serveur a un SSD 1To pour la mise en cache des données, l'OS et les softwares, 12 HDD 6To pour le stockage (vu le rapport capacité/coût). Et je pense à un SSD nvme 30mm 256Gb uniquement pour l'OS et les softwares...
Il y a mieux comme serveur de fichiers avec 73To de capacité (hors Raid) mais c'est beaucoup plus cher! Moi j'ai rien trouvé à moins de 2500€.
J'ai déjà acheté le serveur, les 12 caddies, les 12 disques durs, il me manque la Backplane sans quoi je suis limité à 4 disques, et la carte raid. En lisant votre lien, je vois qu'une carte Lsi marche mieux que HP mais c'est plus cher... La 9361-16i coûte 360€, soit le double de la P840 qui a également 16 entrées compatibles 12Gb/s.
Personnellement, je me passerais volontiers d'une carte Raid mais ma carte-mère n'a que 2 ports SAS dont l'un est utilisé par le SSD. Je voulais plus un concentrateur des 12 disques en un seul volume (je ne suis pas assez compétent pour connaître le nom exact, c'est ça le HBA?). Y'a-t-il une carte non raid pour brancher les 2 ports SFF-8087 12Gb/s de ma Backplane?
 

Heracles

Wizard
Joined
Feb 2, 2018
Messages
1,401
Mes HDD 14To sont remplis à 95% pour 4 d'entre eux, je prends donc un risque :smile:

Nous sommes d'accord sur ce point...
à
Sur Linux, c'est ZFS, un système créé il y a une vingtaine d'années par Sun ?

Linux support effectivement ZFS (Oui, celui développé par Sun jadis) mais il en supporte aussi plusieurs autres. TrueNAS existe en deux versions différentes : TrueNAS Core qui est basé sur FreeBSD et TrueNAS Scale qui est basé sur Linux. Ici, je travaille avec Core mais les deux sont conçus pour n'opérer que ZFS comme système de fichiers. Si tu veux un Linux et autre que ZFS, TrueNAS n'est pas la bonne réponse.

C'est sûrement mieux que le FAT32

Pas difficile de faire mieux quand on se compare au pire :smile:

Effectivement, c'est tellement mieux que ça ne se compare même plus...

Est-ce adapté au stockage hybride?

Certainement. ZFS est capable de créer des vdev spécialisés pour certaines tâches. Cela rentre dans des concepts plus avancés mais c'est certainement possible. ZFS est plus qu'un système de fichiers, c'est aussi le mécanisme de gestion des blocs de stockage. Il offre des mécanismes comme les snapshots, la création de volumes virtuels et plus encore.

Mon serveur a un SSD 1To pour la mise en cache des données, l'OS et les softwares,

Avec les 256G de RAM annoncés, la RAM seule devrait être suffisante mais il est certainement possible de dédier un SSD pour la fonction de L2ARC (mémoire cache en lecture). L'OS ne prends presque rien en RAM lui-même tellement il est léger et optimisé pour ce.

Et je pense à un SSD nvme 30mm 256Gb uniquement pour l'OS et les softwares...

Avoir son OS sur un SSD est effectivement la recommendation d'aujourd'hui, en opposition aux mémoires USB. Pour les logiciels supplémentaires (plugins, jails, VM, ...), eux sont installés dans le pool principal.

La 9361-16i coûte 360€, soit le double de la P840 qui a également 16 entrées compatibles 12Gb/s.

Ici je n'ai pas magasiné ces cartes car j'ai acheté des serveurs Dell dont la carte par défaut est elle-même basée sur la LSI. Dans la section anglaise, il est souvent mentionné que ces cartes LSI sont souvent disponibles sur le marché de l'usagé et pour moins de 100$. Il faut juste s'assurer qu'elles ont le bon firmware ou sinon, flasher les cartes soi-même avec le bon firmware.

Je voulais plus un concentrateur des 12 disques en un seul volume (je ne suis pas assez compétent pour connaître le nom exact, c'est ça le HBA?)

Non justement. Ça c'est le comportement d'une carte Raid : prendre 12 disques et n'en faire qu'un seul volume. Un HBA connectera les 12 disques physiques et les exposera tels qu'ils sont au système d'exploitation. Ce sera ensuite à TrueNAS de les manipuler du début à la fin. Si un disque dur ne parvient pas à relire un secteur, il le dit à TrueNAS et c'est TrueNAS qui gère la situation. TrueNAS verra les 12 disques avec leur numéro de série, leur modèle, etc. Ce sera TrueNAS qui regroupera les disques dans des volumes (vdev) pour ensuite regrouper les vdev en un pool. Pour 14 disques, l'idéal serait 2 vdev Raid-Z2 de 7 disques. Chaque vDev a deux disques de redondance et 5 disques de données. Cela donne 2x 30T, donc 60T tout juste. Puisque cet espace est insuffisant, une autre option serait un seul vDev de 14 disques en RaidZ-3. Lui a 3 disques de redondances et 11 disques utiles, donc 66T. C'est un peu gros comme vDev et ce sera rempli à 90%, donc trop aussi, mais la redondance sera tout de même robuste.

Un seul vDev Raid-Z2 de 14 disques serait mieux que 2 Raid-Z1 de 7 disques. La raison est que la double parité couvrira tous les disques et ainsi, au moment de remplacer un disque, il restera une redondance pour assurer le tout. Cela laissera les 12 disques utiles. C'est un vDev un peu gros mais encore jouable.

Et Oui, il existe clairement des cartes HBA compatibles avec le DL380 G9. Les LSI discutées plus haut sont non seulement des exemples mais aussi la recommandation.
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11

PS: grâce à votre aide, j'ai modifié ma demande...​

OK pour un vDev Raid-Z2 de 12 disques (extensible plus tard à 14 disques).​

J’ai trouvé une carte Dell HBA345 correspondant à une LSi 9400-16i​

C'est du stockage hybride HDD + SSD + nvme et elle accepte le 12 Gb/s​

Ce sont des connecteurs 8654-8i, il me faut donc 2 câbles SlimSAS vers 2 mini-SAS SFF-8643 pour la Backplane de 12 disques, et 1 autre SlimSAS vers 2 mini-SAS SFF-8643 pour le SSD de 1To et une éventuelle seconde Backplane arrière qui accepte 3 disques supplémentaires!​

Si je prends un SSD nvme pour l’OS uniquement, je pourrai le brancher directement sur le port de ma carte-mère ou en PCI-e.​

Avantages de Broadcom: les pilotes !!! Debian, Windows,...​

TrueNAS SCALE, basé sur Debian 11, me semble plus adapté à un néophyte (Mac user) qui veut une interface graphique intuitive…​

 
Last edited:

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
Bonjour,
Je n'arrive pas à trouver une information. Peut-on créer un Pool RAID-Z2 avec 12 disques internes et un DAS branché en externe (Usb-c 3.1) dans lequel il y a 5 disques de même capacité. Cela fait bien 17 disques de 6To et j'aurais un pool de 72To en RAID-Z3, avec une "pente" (sloop space allocation). Avec une marge de 20% pour limiter le nombre de pannes, ça fait environ 60To et ça me suffit, j'ai 5 actuellement disques de 12To mais seuls 4 sont pleins donc j'ai actuellement une cinquantaine de Tera-octets et je vais trier...

Grâce au site wintelguy, on peut calculer précisément le stockage en RaidZ (ça me donne 41To de données avec 12 disques de 6To):

RAID type:
RAID-Z2 (double parity)
Drive capacity: 6Tb
Drive sector size:
512 (mes 12 HDD et le SSD sont tous des disques 512e)
Number of drives per RAID group: 12
Number of RAID groups: 1
ZFS record size:
128 KiB
Take into account:
Slop space allocation
20% free space limit




RAID type:RAID-Z2 (Double parity with variable stripe width)
Number of RAID groups:1
Number of drives per RAID group:12
Total number of drives:12
Drive capacity (GB):6000
Drive capacity (TiB):5.456968
(TiB)(TB)(%)
Total raw storage capacity:65.48361972.000000100
Zpool storage capacity:65.00000071.46825699.26
Reservation for parity and padding:11.14886712.25830917.03
Zpool usable storage capacity:53.85113359.20994782.24
Slop space allocation:1.6828481.8503112.57
ZFS usable storage capacity:52.16828557.35963679.67
Minimum free space:10.43365711.47192715.93
Practical usable storage capacity:41.73462845.88770963.73
 

Etorix

Wizard
Joined
Dec 30, 2020
Messages
2,134
Non, sans même considérer comment cinq disques peuvent être gérés dans le boîtier externe (multiplicateur SATA ?), une liaison USB n'est pas assez fiable pour ZFS.
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
Non, sans même considérer comment cinq disques peuvent être gérés dans le boîtier externe (multiplicateur SATA ?), une liaison USB n'est pas assez fiable pour ZFS.
C'est un DAS 5 baies TerraMaster D5-300C usb-C 3.1, comme un NAS mais sans prise réseau. Il dort sur une étagère, autant l'utiliser :cool:
 

Etorix

Wizard
Joined
Dec 30, 2020
Messages
2,134
Avec un controlleur RAID hardware… :eek:
Si cette machine est utilisée, que ce soit de la manière prévue : directement attachée à l'ordinateur client.

ZFS n'est pas une solution magique contre la perte de données. ZFS n'est pas une sauvegarde. ZFS est une solution de stockage initialement conçue pour les entreprises; ZFS est assez exigeant sur la configuration matérielle et suppose un administrateur compétent. TrueNAS fournit une solution ZFS prête à l'emploi… à condition de ne pas faire n'importe quoi avec les options de l'interface graphique et le choix du matériel.
ZFS avec un vdev trop large, chargé >80% dès le départ, des disques externes et pas de sauvegarde n'est pas une solution sécurisée, c'est un excellent moyen de perdre toutes ses données.
 

Heracles

Wizard
Joined
Feb 2, 2018
Messages
1,401
un DAS branché en externe (Usb-c 3.1) dans lequel il y a 5 disques de même capacité

Tel qu'indiqué, Non, il ne faut pas utiliser quoi que ce soit de USB avec TrueNAS. USB applique une couche d'abstraction entre le système d'exploitation et le (les) disque(s), ce qui ne doit jamais avoir lieu dans TrueNAS. TrueNAS doit voir et manipuler lui-même tous les disques durs.
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
Avec un controlleur RAID hardware… :eek:
Si cette machine est utilisée, que ce soit de la manière prévue : directement attachée à l'ordinateur client.

ZFS n'est pas une solution magique contre la perte de données. ZFS n'est pas une sauvegarde. ZFS est une solution de stockage initialement conçue pour les entreprises; ZFS est assez exigeant sur la configuration matérielle et suppose un administrateur compétent. TrueNAS fournit une solution ZFS prête à l'emploi… à condition de ne pas faire n'importe quoi avec les options de l'interface graphique et le choix du matériel.
ZFS avec un vdev trop large, chargé >80% dès le départ, des disques externes et pas de sauvegarde n'est pas une solution sécurisée, c'est un excellent moyen de perdre toutes ses données.
Bon, j'essaye d'éclaircir ça dans mon esprit. Ayant possedé 4 différents NAS, comme beaucoup, pour stocker des films en Raid5, en espérant ne pas tout perdre (la conversion prend du temps), TrueNAS, FreeNAS ou OpenMEdiaVault semblaient être des OS qui permettent de créer son propre NAS à partir d'un vieux PC, voire d'un Raspberry. En vous lisant, j'ai l'impression que c'est uniquement pour les entreprises et uniquement pour les serveurs? Et pas vraiment pour faire un NAS...
Je comprends que l'intégrité (et la sécurité qui est un autre souci) des données est une priorité pour une entreprise. Qu'il faut des Raid + des sauvegardes. Mais je pensais que ça pouvait aussi servir comme serveur de fichiers avec Plex et des clients (Apple TV, ordinateurs portables, tablettes) qui accèdent au contenu dans le cadre d'un réseau privé.
 

Heracles

Wizard
Joined
Feb 2, 2018
Messages
1,401
TrueNAS, FreeNAS ou OpenMEdiaVault semblaient être des OS qui permettent de créer son propre NAS à partir d'un vieux PC, voire d'un Raspberry.

TrueNAS ne fonctionnera jamais à partir d'un Raspberry PI, c'est certain. Utiliser un vieux PC est aussi largement déconseillé. TrueNAS est une solution de qualité Entreprise et offre aussi toute la puissance d'une telle solution. La solution est toutefois offerte aussi librement à quiconque voudrait en faire usage.

Aucun serveur, TrueNAS ou autre, ne peut être plus qu'un point de défaillance critique. Il sera détruit par un seul sinistre physique (ex: le feu) ou un incident logique (une intrusion), peu importe son niveau de redondance interne. Ainsi, puisqu'un seul incident unique pourra toujours le détruire, il ne sera toujours qu'à un seul pas de tout perdre. C'est la raison pour laquelle il faut des sauvegardes et idéalement, un plan complet comme celui expliqué dans ma signature. Un tel plan résistera à n'importe quel incident unique, qu'il soit physique ou logique.

Il existe des solutions plus simples que TrueNAS qui ne sont pas viables en entreprise mais qui restent viables pour la maison. Le principe des sauvegardes s'applique toutefois aussi à ces solutions plus simples car elles aussi seront détruites par le feu / une intrusion / ...

À toi de voir comment tu souhaites gérer et protéger tes données. L'important est que tu sois conscient de la situation (à un incident de tout perdre et tu l'acceptes) ou que tu entreprennes de la corriger si tu ne l'acceptes pas.
 

Chris-FR

Dabbler
Joined
Nov 24, 2021
Messages
11
TrueNAS ne fonctionnera jamais à partir d'un Raspberry PI, c'est certain. Utiliser un vieux PC est aussi largement déconseillé. TrueNAS est une solution de qualité Entreprise et offre aussi toute la puissance d'une telle solution. La solution est toutefois offerte aussi librement à quiconque voudrait en faire usage.

Aucun serveur, TrueNAS ou autre, ne peut être plus qu'un point de défaillance critique. Il sera détruit par un seul sinistre physique (ex: le feu) ou un incident logique (une intrusion), peu importe son niveau de redondance interne. Ainsi, puisqu'un seul incident unique pourra toujours le détruire, il ne sera toujours qu'à un seul pas de tout perdre. C'est la raison pour laquelle il faut des sauvegardes et idéalement, un plan complet comme celui expliqué dans ma signature. Un tel plan résistera à n'importe quel incident unique, qu'il soit physique ou logique.

Il existe des solutions plus simples que TrueNAS qui ne sont pas viables en entreprise mais qui restent viables pour la maison. Le principe des sauvegardes s'applique toutefois aussi à ces solutions plus simples car elles aussi seront détruites par le feu / une intrusion / ...

À toi de voir comment tu souhaites gérer et protéger tes données. L'important est que tu sois conscient de la situation (à un incident de tout perdre et tu l'acceptes) ou que tu entreprennes de la corriger si tu ne l'acceptes pas.
J'ai déjà été cambriolé mais j'emportais mon NAS presque partout donc la question ne se posait pas. Mais j'aurais pu tout perdre et j'ai dit que je l'acceptais. J'ai une entreprise, des caméras de surveillance mais je n'ai pas besoin de conserver les données. J'ai ma comptabilité, des trucs comme ça mais j'ai surtout toute ma facturation sur papier. Bref si on me dérobait tous mes appareils high-tech, il n'y aurait pas mort d'homme. Ma liste de 5600 films est précieuse, je la partage régulièrement, je la sauvegarde sur le cloud, elle est légère. Si je devais tout perdre, je pourrais la retrouver en deux années de travail. Je m'en passerais bien mais on comprend bien qu'il n'y a donc aucun risque critique! Cela n'empêche pas d'ajouter une protection supplémentaire. Mon frère a la même chose que moi mais en musique. Il a tout perdu sur un disque dur. Il a tout réencodé, c'était de l'AAC 256 et il est encore monté en qualité. Maintenant il a une double sauvegarde. Et il est informaticien pour un truc de l'état, le plus vaste pourvoyeur d'emplois en France...
 

Etorix

Wizard
Joined
Dec 30, 2020
Messages
2,134
Bon, j'essaye d'éclaircir ça dans mon esprit. Ayant possedé 4 différents NAS, comme beaucoup, pour stocker des films en Raid5, en espérant ne pas tout perdre (la conversion prend du temps), TrueNAS, FreeNAS ou OpenMEdiaVault semblaient être des OS qui permettent de créer son propre NAS à partir d'un vieux PC, voire d'un Raspberry. En vous lisant, j'ai l'impression que c'est uniquement pour les entreprises et uniquement pour les serveurs? Et pas vraiment pour faire un NAS...
Un NAS est, par définition, un serveur…
TrueNAS est utilisable à la maison mais, de par les origines de ZFS (Sun n'était pas une organisation caritative…) et son cahier des charges, il est plus exigeant (et plus coûteux) que d'autres solutions. Un serveur dual Xeon avec 256 GB de RAM est du beau matériel, qui irait très bien à ZFS. Mais les disques doivent être attachés à un HBA SAS ou SATA validé, pas par USB ou autre bricolage — et surtout pas à un controlleur RAID. Et, en l'état, il n'y a pas assez de disques, ou pas d'assez grande capacité, pour le volume de données à stocker, en tenant compte de l'espace occupé par les métadonnées et de l'espace libre pour le bon fonctionnement du Copy-On-Write. Avec des disques de 10 TB, ou un châssis supplémentaire avec un expandeur SAS, ça passerait.

SI le but est de servir 60 TB de données changeant peu, sans réplication vers un ou plusieurs autres serveurs pour la sauvegarde, et sans besoin de les sécuriser contre les erreurs de l'utilisateur, OpenMediaVault, Unraid ou d'autres solutions matériellement moins exigeantes que ZFS pourraient donner satisfaction à moindre frais.
 
Top