Un mémo sur comment ajouter des disques supplémentaires pour la création de nouveaux OSD pour augmenter à chaud, la capacité d’un volume cluster Ceph .
Présentation de mon cluster Ceph sous Proxmox
- 3 nœuds Proxmox en HA avec 5 disques de 4To en RAID 0 pour les OSD
- Volume Ceph actuel : 54To
- Ajout de 3 disques de 4To au cluster
Création des RAID 0 via iDRAC
Une fois les nouveaux disques ajoutés au serveurs, il faut créer un RAID 0 pour chaque disque :
- Se connecter à l’interface web d’iRAC puis cliquer suer le le menu « storage » pour vérifier la présence du nouveau disque :
- Cliquer sur le menu « Virtual Disques » puis sur « Create » :
- Renseigner les informations concernant le RAID, sélectionner le disque en bas de page puis cliquer sur « Create Virtual Disk » :
- La tâche de création du RAID est prise en compte par iDRAC :
- Refaire ces opérations pour tous les disques ajoutés.
Créations des nouveaux OSD pour le cluster Ceph
- Se connecter à l’interface web d’administration de Proxmox, cliquer sur le menu « Ceph », ensuite sur « OSD » et cliquer sur « Create OSD » :
- Sélectionner le nouveau disque :
- Refaire cette opération pour tous les OSD, le statut de Ceph passe en « Warning » le temps de la reconstruction du cluster :
Calcul du pgnum
Ne pas oublier de recalculer le pgnum du pool Ceph :
- (OSDx100)/size -> choisir la puissance de 2 supérieur au résultat de l’opération.
- OSD : nombre total d’OSD choisi pour le pool
- size : nombre de réplication
- Exemple pour mon pool : (6*100)/3 = 200
- mon pg_num sera d’une puissance de 2 supérieur à 200, c’est à dire dans mon cas : 256
- Dans le cas présent mon ancien pgnum était aussi de 256 donc pas de changement, mais dans le cas ou il faut changer le pgnum, voici la commande :
ceph osd pool set {pool-name} pgp_num {value}
- {pool-name} : le nom du pool
- {value} : la nouvelle valeur, qui sera toujours supérieur à l’ancienne.
Merci pour ton article,
Il manquerait juste à savoir la manip à faire en cas d’un crash d’un disque/pool
ça fait parti de ma todo-list :-)
Hey Fred,
Bravo sur les articles de ton blog.
Je voudrai savoir si c’était possible de chat au sujet de Ceph, nouveau à Ceph j’aurai quelques questions si tu serai disponible à y répondre en google chat ou skype chat : )
Merci,
Bonjour,
Question que je me posais à propos du pg_num, que se passe t’il si le nombre n’est pas suffisant ? Par exemple, au lieu de mettre 256, je mets 128 dans le cas où j’ai 3 serveurs en HA et 3 OSD ?
Bonjour Aurélien,
je n’ai pas assez de recul et surtout pas fait l’expérience mais d’après la doc cela joue sur les performances du Ceph et surtout la perte de données en cas de problème sur les OSD…
Bonjour
Tout d’abord merci pour votre tuto, je suis chargé installer un progiciel de gestion dans ma société avec une red hat et une base de donnée oracle la solution que j’envisage c’est de passer a Proxmox en HA donc ma première question est est-ce que vous conseillez le Dell poweredge 730 avec proxmox ?
Deuxième question :pour faire du HA avec Ceph il faut trois serveurs est-ce que les trois serveurs doivent être sous proxmox ?
Troisième et dernière question :l’interface de gestion de proxmox est-il installé sur un des trois serveurs sur les trois ?
Merci de votre retour
Bonjour David,
1: j’ai des clusters HA Proxmox sur des R730
2: Oui
3: sur les 3
plus ‘infos : https://memo-linux.com/proxmox-4-x-mise-en-place-dun-cluster-ha-avec-ceph/