Le serveur de bêta et les maintenances de Scaleway

Bonsoir tout le monde.

Je ne vais pas être disponible jusqu’à jeudi soir (déplacement professionnel), je garderai un œil sur Discord, mais ce sera compliqué de consacrer du temps à ZdS si besoin (c’est important pour la suite).

Notre serveur de bêta, hébergé par Scaleway, est concerné par la dépréciation des bootscripts, mécanisme qui permet actuellement à notre VM de démarrer. Ces bootscripts ont été "débranchés" le 15 mai (vu ce qui est écrit), mais je n’étais pas au courant, j’ai découvert ça en me connectant un peu par hasard à l’espace client de Scaleway… L’action manuelle qui est demandée de notre part, grosso modo, c’est supprimer notre VM et en recréer une nouvelle. À l’heure actuelle, j’ai peur que si je redémarre le serveur de bêta, il ne redémarre pas, car les bootscripts nécessaires à son démarrage ne sont plus disponibles.

Deuxième point, le serveur de bêta est concerné par une maintenance de Scaleway qui aura lieu jeudi après-midi. Le serveur sera éteint pour être redémarré sur un autre hyperviseur, si j’ai bien compris. Là, aucune action n’est requise de notre côté, si ce n’est qu’on peut redémarrer nous-même le serveur dès à présent, ce qui évitera la maintenance jeudi.

Vous voyez où je veux en venir ? Le serveur va redémarrer jeudi après-midi, à cause de la maintenance programmée par Scaleway, mais en fait ne redémarrera pas à cause de l’histoire des bootscripts…

Ayant tout ceci en tête, j’ai fait aujourd’hui l’inventaire des services qui tournent sur le serveur de bêta et j’ai sauvegardé ce qui doit être sauvegardé si on venait à perdre le serveur (toute la configuration, les /home, les logs qu’on est censé garder pour la CNIL, tout ce qui n’est pas géré par Ansible). (note pour les autres qui ont accès aux serveurs : la sauvegarde est dans mon /home sur le serveur de prod)

Après la mise à jour des serveurs à 18h, je me suis dit que j’allais regarder un peu plus en détails la procédure de ce qu’on nous demande pour le serveur de bêta, voire la réaliser. Mais là, je me rends compte de plusieurs choses :

• dans la procédure indiquée, il faut créer un snapshot du volume de stockage utilisé par le serveur, créer un nouveau serveur, monter le snapshot dans le nouveau serveur et rapatrier les données ainsi. Seulement : un snapshot c’est payant : 0,0022 €/heure. Qu’on doive payer pour une maintenance qui nous imposée par Scaleway, je trouve ça fort de café…
• il va falloir créer une nouvelle instance, très bien, voyons un peu comment ça fonctionne. Actuellement le serveur de bêta est une formule VC1M (qui date de plus de 6 ans) : 4 CPU, 4 Go de RAM, réseau à 200 Mbps. Bien-sûr cette formule n’est plus disponible, mais ce qui est effarant, c’est le prix actuel d’une formule équivalente : si je prends la formule DEV1-L (4 CPUs, 8 Go de RAM, 400 Mbps, et 50 Go de disque système), on arrive à 34,97 €/mois ! Pour info, on paie mensuellement à Scaleway environ 25 €, ce qui inclut le serveur de bêta actuel (50 Go de disque système et un disque additionnel de 50 Go pour les sauvegardes), le serveur qui héberge Matomo et 2 adresses IPv4.

J’ai un peu halluciné, peut-être que c’est juste les prix actuels, ça fait longtemps que je n’avais pas regardé. Je suis allé voir un peu chez d’autres hébergeurs, et visiblement c’est avoir 4 CPUs qui coûte cher :

• Gandi VR-8 : 4 CPUs, 8 Go RAM, disque de 25 Go extensible : 36 €/mois
• Gandi VR-4 : 2 CPUs, 4 Go RAM, disque de 25 Go extensible : 18 €/mois
• Ionos (anciennement 1and1) : VPS Linux L : 4 CPUs, 8 Go RAM, disque de 240 Go : 16,80 €/mois
• Ionos : VPS Linux M : 2 CPUs, 4 Go RAM, disque de 160 Go : 9,60 €/mois
• OVH : Confort : 4 CPUs, 8 Go RAM, disque 160 Go : 23,50 €/mois HT, sans engagement (on gagne un peu avec un engagement de 12 ou 24 mois ; tous les autres prix de cette liste sont TTC)
• OVH : Essential : 2 CPUs, 4 Go RAM, disque 80 Go : 12,50 €/mois HT, sans engagement
• (j’ai essayé kimsufi, mais en fait ça redirige vers OVH)

Sans trop de détails, le serveur de bêta, c’est :

• tout l’environnement de ZdS qui tourne sur la production : zds-site, MariaDB, ElasticSearch, zMarkdown, utilisé surtout pour tester des PRs et tester les nouvelles versions
• stocke les sauvegardes du serveur de production et du serveur qui héberge Matomo (on peut s’en passer temporairement, les sauvegardes sont aussi faites chez Mote et chez moi)
• le petit programme qui détecte les risques de spams dans les biographies des nouveaux membres

En terme de besoins : 2 CPUs devraient pouvoir suffire pour un serveur de bêta (le serveur de prod n’en a que 3 et les CPUs actuels doivent être meilleurs que ceux âgés de 6 ans…), 4 Go de RAM me paraît un minimum (le swap de 2 Go est toujours plein), 50 Go pour le disque principal (système et tout zds) c’est bien (actuellement on utilise 32 Go), 50 Go pour le disque de sauvegarde c’est vraiment le minimum, actuellement on serre un peu les fesses.

Migrer le serveur de bêta vers un nouveau serveur de bêta n’est pas forcément une mauvaise chose : ça nous permettrait de tester nos scripts de déploiements (et les consolider), vérifier la pertinence de nos documentation (et les améliorer) et vérifier le fonctionnement de nos sauvegardes (mais ça on le vérifie déjà en synchronisant la bêta avec la prod).

Vous me voyez venir : qu’est-ce qu’on fait ? Est-ce qu’on reste chez Scaleway ? Est-ce qu’on migre ailleurs ? (pour moins cher bien-sûr). Bien-sûr, on ne va pas se décider avant jeudi (et de toute façon, je ne peux pas m’en occuper avant jeudi), mais je prépare à l’éventualité qu’on n’ait plus de serveur de bêta à partir de jeudi… Je ne parle (pour l’instant) que du serveur de bêta, si on change, la question se pose sans doute aussi pour le serveur Matomo…

Merci pour ce message très détaillé !

Pour Scaleway, je pense qu’il faut plus s’intéresser à la formule DEV1-M qu’à la formule DEV1-L. Sur cette page, j’arrive à un coup estimé à 24,50 €/mois pour la DEV1-M (3 vCPU, 4 Go de RAM) avec 100 Go de Local Storage (pour le système et les sauvegardes) et une IPv4 flexible (dont on pourrait éventuellement se passer pour économiser 3€/mois). Cela reste plus raisonnable que les 34,97€/mois que tu indiques pour le DEV1-L. À noter que je ne sais pas si ce sont des euros hors taxes ou toutes taxes comprises.

Pour Gandi, il y a plusieurs grilles de prix (de A à E, la plus avantageuse) et si ma mémoire est bonne leur soutien est censé nous donner accès à la grille E (@Melcore est-ce toujours le cas ?). Par contre sur la page de présentation de leurs VPS, la barre violette qui permet de modifier la grille n’a pas d’effet sur les prix affichés. On pourrait donc potentiellement profiter de tarifs plus avantageux.

Les tarifs proposés par Ionos sont en effet très alléchants et je te fais confiance sur le témoignage de ton expérience, mais comme tu l’as pointé ce n’est pas une société française et elle ne propose pas de datacenter en France. Je pense que c’est un point qui pourrait être discuté lors de l’AGO ou de la réunion du CA du 24 juin prochain, il est possible que l’association souhaite favoriser le choix d’un hébergement en France par une société française malgré un surcoût. (Édition : J’ai posté un message à ce propos sur le sujet du forum qui concerne l’AGO 2023.) J’invoque @firm1 pour en tenir compte dans la prévision du budget et donc du montant de la cotisation.

Maintenant, que faire ? Bon, déjà on peut attendre jeudi et voir ce qu’il se produira vraiment. Ensuite, si le serveur est arrêté sans possibilité de le redémarrer, on a deux options en l’attente d’une décision de l’association :

• se passer de serveur de bêta ;
• migrer temporairement vers l’offre Scaleway la plus proche (c’est-à-dire la DEV1-M).

Édition : À noter que je ne serai que très peu disponible jusqu’à l’AGO du 24 juin donc je ne pourrais pas vraiment aider à une éventuellement migration du serveur de bêta d’ici-là.

Avant de faire confiance aux sauvegardes, ça peut être bien de faire un test complet de celles-ci, également

dans la procédure indiquée, il faut créer un snapshot du volume de stockage utilisé par le serveur, créer un nouveau serveur, monter le snapshot dans le nouveau serveur et rapatrier les données ainsi. Seulement : un snapshot c’est payant : 0,0022 €/heure. Qu’on doive payer pour une maintenance qui nous imposée par Scaleway, je trouve ça fort de café…

J’ai du mal à comprendre. Un simple dd des disques ne suffirait pas ? Sinon, je sais que c’est surtout le l’idée de payer à cause d’eux qui est embêtante, mais ça fait 20€ l’année et si j’ai bien compris, on en a besoin que pendant le temps de la migration.

Je confirme que Gandi nous donne accès à la grille tarifaire E. Étrange cette barre qui ne change rien selon la grille. Je vais demander plus d’information.

Puisque l’on parle du prix par rapport aux vCPU/RAM que l’on peut avoir, il serait sans doute intéressant de regarder aussi des VPS Arm64 parfois plus compétitifs à performances similaires, de mon expérience chez le « Géant » et chez Hetzner (Allemagne). Je ne sais pas qui en fait en France à part Scaleway, mais chez Scaleway c’est encore en beta je crois, cela signifie que le produit peut être suspendu, donc ce n’est pas pour de la production pour le moment. On peut malgré tout garder ça dans un coin de notre tête pour plus tard si on veut rester fidèles à Scaleway.

Je rebondis dessus.

C’est grave si on perd toutes les données ? Le script anti-spam dans les bio est sauvegardé quelque part non ? Je ne m’inquiète pas pour lui.

tout l’environnement de ZdS qui tourne sur la production

Ok. Ben au pire, tout tourne sur la production, donc c’est pas fou mais on perd rien.

stocke les sauvegardes du serveur de production et du serveur qui héberge Matomo

On peut les copier ailleurs non ? Au pire, vous chiffrez et j’héberge ça chez moi pendant 1mois et voilà.

Bref, c’est quoi le problème de perdre la béta pendant quelques jours ? On redirige temporairement vers une page HTML affirmant que la béta est en maintenance et qu’elle revient vite et c’est bon ?

Les tarifs proposés par Ionos sont en effet très alléchants et je te fais confiance sur le témoignage de ton expérience, mais comme tu l’as pointé ce n’est pas une société française et elle ne propose pas de datacenter en France.

Si je peux me permettre, je vous conseille de jeter un coup d’œil à Pulseheberge. C’est français, avec des datacenter en France et en Suisse (pour le moment). Je l’utilise depuis quelques années, sans aucun souci, et le support est très réactif.

Un STD-8 (8 vCore @ 2,40GHz (Intel Xeon E5–2680v4), 8Go de RAM DDR4, 50Go de Stockage, Connexion 500 Mbps) semble correspondre à vos besoins en terme de perf.

L’idée est de vérifier que les autres sauvegardes de la production fonctionnent avant de virer celles sur le serveur de la bêta, pas de sauvegarder la bêta

C’est peut-être le moment de quitter Gandi (ou au moins de ne pas en rajouter chez eux) : https://linuxfr.org/users/acatton/journaux/gandi-passe-de-no-bullshit-a-bait-and-switch et https://news.gandi.net/fr/2023/06/faq-nouvelle-offre-boite-e-mail-gandi/

Bon et du coup ?

En tout cas la bêta tourne.

Le serveur de bêta a bien redémarré jeudi. Scaleway a visiblement réussi à faire son opération de maintenance, il n’en reste pas moins que l’avertissement des bootscripts dépréciés persiste.

En effet, ça ressemble même plus à la configuration du serveur de production.

Oui, il faut garder ces éléments en tête. Je pense qu’il faut aussi se renseigner sur l’avenir du soutien de Gandi envers ZdS (et à quelle hauteur). Dans tous les cas, je n’ai pas envie que l’association paie x€ pour deux boîtes mail qu’elle n’utilise que très peu (surtout pour la boîte technique, je ne sais pas pour la boîte association)…

La boîte association@ sert beaucoup (toutes les opportunités hors ligne sinon les JdLL sont passées par là  — entre autres !). Il ne faudrait vraiment pas la perdre. Elle est très, très importante. C’est aussi l’adresse de communication avec le Café des Sciences (et donc celle par laquelle on est sur la mailing list du Café, qui contient tout plein d’opportunités pour l’asso).

Les autres boîtes, ça pourrait peut-être plus se discuter. Il y aurait probablement des fusions envisageables. Cela dit, attention de ne pas le faire trop vite : par exemple, on s’authentifie sur tous les réseaux sociaux et services apparentés avec l’adresse communication@ (avec généralement un alias +) ; il ne faudrait pas supprimer cette adresse (dans l’idée de la fusionner avec association@, par exemple, ce qui se défendrait) avant d’avoir migré tous les comptes.

Histoire d’avoir quelques éléments pour la réunion des dev’s demain soir, j’ai regardé un peu plus en détails ce qu’on paie actuellement pour le serveur de bêta. Je me base sur la facture de mai 2023. Après avoir fait quelques calculs (la facture ne détaille pas chaque ressource, mais regroupe par types de ressources), j’obtiens le tableau suivant :

Si je sélectionne une instance DEV1-M, qui correspond en terme de besoins. J’augmente un peu le stockage principal pour être plus à l’aise, et je ne compte pas le disque de 50 Go pour stocker les sauvegardes :

Pour avoir plus de 40 Go sur le disque système, il est nécessaire de prendre un stockage bloc, qui coûte un peu plus cher qu’un stockage SSD local. Je ne sais pas si les prix sont HT ou TTC.

Bon. Ça fait deux fois plus cher pour moins de ressources (on passe de 4 vCPUs à 3, là je n’ai compté que 60 Go de stockage alors que dans le premier tableau j’en compte 100).

Comme ça a été suggéré, j’ai regardé du côté de Pulseheberg (que je ne connaissais pas) : entreprise française et datacenters en France, c’est un bon début. L’offre Cloud Storage STOR-4 a l’air pas mal : 4 vCPUs, 4 Go RAM, 500 Go de stockage, pour… 9 €/mois ! La bande-passante est limitée à 500 Mbps (ce qui n’est pas gênant), mais la quantité de trafic ne semble pas l’être (ce qui serait plus gênant vis-à-vis des sauvegardes qui arrivent sur le serveur de bêta).

Je ne dis pas qu’on va/doit choisir Pulseheberg, c’est juste quelques pistes de réflexion.

@Melcore nous a annoncé que Gandi pouvait nous accorder gracieusement une VM V-R4.

Personnellement, j’ai quelques réserves :

• 2 vCPUs, ce n’est pas beaucoup (actuellement la bêta en 4, la production en a 3)
• 25 Go c’est trop petit, on aurait besoin de 100 Go (pour zds-site et les sauvegardes). On peut ajouter du stockage supplémentaire (0,07 €/Go/mois), mais est-ce qu’ils pourraient nous offrir aussi ce stockage supplémentaire ?
• le trafic réseau est limité à 3 To/mois. J’ai du mal à voir ce que ça représente, je ne sais pas ce qu’on utilise comme trafic actuellement, après un rapide calcul pendant la réunion des dev’s, on a conclu que ça devrait rentrer (le gros du trafic sur ce serveur, ce sont les sauvegardes qui arrivent du serveur de production et du serveur Matomo). Mais c’est plutôt le principe de limiter le trafic que je n’aime pas… Et que se passe-t-il lorsque le plafond est atteint ?
• on aurait le serveur de bêta (qui contient les sauvegardes, je le redis) et le serveur de production chez Gandi, ça fait tout de même une forte dépendance à Gandi, qui pourrait peut-être être problématique, en cas d’incendie ou de changements de politiques (tarifaire ou autre) trop… gênants.

On a discuté de toutes ces questions pendant la dernière réunion des dev’s. Je cite le compte-rendu :

On (tout du moins, Situphen et moi) avons décidé qu’il fallait donc trouver un autre hébergeur. On se donne jusqu’à fin août / début septembre pour évaluer les possibilités, on prendra une décision lors de la prochaine réunion des dév’s (qui sera bien-sûr soumise à l’approbation du conseil d’administration de ZdS ). On changera d’hébergeur dans un premier temps le serveur de bêta, et à terme sans doute aussi le serveur Matomo.

Salut,

Je ne vais pas proposer Infomaniak, leur première offre est à 25€/mois…

PulseHeberg, j’ai été plusieurs années chez eux. Ça s’est globalement très bien passé. J’avais des soucis de ram qui se remplissait à fond toute seule, mais c’est plus probablement à cause de Yunohost. Il faut juste noter que sur les gammes STOR, il me semble que c’est encore du stockge HDD. Pour la bêta et les sauvegardes, ça ne doit pas être un problème, pour Matomo je ne sais pas si ça ne peut pas impacter ces problèmes de requêtes trop longues.

Salut,

Pour celles et ceux que ça intéresse, on est parti sur une STOR-4 de PulseHeberg pour la nouvelle bêta. On va s’occuper de tout bien installer et configurer dans les prochains jours, avant de dire adieu à l’actuelle bêta qui date de 2016 d’ici quelques semaines. C’est une première étape nécessaire avant de tester les prochaines versions de ZDS avec un coup de ménage sous le capot : Django 4.2 LTS et Python 3.11.