Derniers messages sur Zeste de Savoirhttps://zestedesavoir.com/forums/2022-10-27T20:02:42+02:00Les derniers messages parus sur le forum de Zeste de Savoir.Serveur de calcul perso, message #2461712022-10-27T20:02:42+02:00pierre somon/@pierre%20somonhttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p246171<p>Par rapport à tous ce qui est serveur reconditionné, je te conseil <a href="https://www.novirent.com/">Novirent</a>. J’ai moi-même acheté un serveur reconditionné DEll chez eux , ça fait 5 ans j’utilise le même serveur. </p>Serveur de calcul perso, message #1396642017-01-27T15:29:49+01:00Gabbro/@Gabbrohttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p139664<p>Ça peut compenser une installation MPI boguée jusqu’à la moelle, docker ? Malheureusement, le système même souffre soit d’instabilité, soit de configuration que je qualifierai gentiment d’exotique (et ça, j’y peut rien).</p>Serveur de calcul perso, message #1396632017-01-27T15:26:15+01:00ShiiFu/@ShiiFuhttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p139663<p>Salut,</p>
<p>Je ne sais pas si cela est possible dans ton cas, mais pourquoi ne pas utiliser docker ?</p>
<p>Cela vous permettrait d’utiliser des environnements totalement différents plaisant à chacun sur une même machine.</p>
<p>ShiiFu.</p>Serveur de calcul perso, message #1396272017-01-27T11:16:31+01:00Gabbro/@Gabbrohttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p139627<blockquote>
<p>Parallélisés comment ?</p>
</blockquote>
<p>En MPI, en effet.</p>
<blockquote>
<p>Heu … si tu as des calculs aussi lourds à faire tourner pour ton travail et que tu y vas de ta poche, c’est qu’il y a un problème.</p>
</blockquote>
<p>On est d’accord, il y a un problème. <img alt="^^" src="/static/smileys/hihi.png"> Je voulais voir si cette idée était une alternative envisageable.</p>
<p>Au vu des réponses ici (et en particulier de la tienne), ça me semble de moins en moins réalisable. Par contre, le fait de chercher des alternatives (actuellement : aller squatter les serveurs du groupe voisin (même labo)) a eu son petit effet et semble avoir débloquer certains verrous <em>politiques</em>. De fait, j’ai des solutions plus réalistes qui se profilent.</p>
<p>Merci à vous tous. Si ça se rebloque, je reviendrai ici pour vous demander des conseils un peu plus concret (racks envisageables, machines potentielles…).</p>
<p>Édit : Liggghts suit Lammps, donc dispose de fichiers (lammps) pour les GPU. Mais ceux-ci ne sont pas utilisables pour Liggghts aux dernières nouvelles (janvier 2016). Ça aurait effectivement été une solution, mais dans mon cas, ça ne marche pas. <img alt=":(" src="/static/smileys/triste.png"></p>Serveur de calcul perso, message #1396262017-01-27T11:02:16+01:00anonyme/@anonymehttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p139626<blockquote>
<p>j’utilise des logiciels bien parallélisés</p>
</blockquote>
<p>Parallélisés comment ? Avec quelle bibliothèque ? Si c’est du parallélisme basé sur la norme <a href="https://en.wikipedia.org/wiki/Message_Passing_Interface">MPI</a>, alors tu peux prendre plusieurs petits serveurs en réseau et les faire travailler ensemble. Sinon bonne chance, il va te falloir un gros CPU.</p>
<blockquote>
<p>Xeon quad core (8 threads)</p>
</blockquote>
<p>4 coeurs physiques = 4 unités de calcul; donc les 8 threads se partagent 4 unités de calcul, ce qui n’a pas d’intérêt quand ton appli fait du calcul à mort.</p>
<blockquote>
<p>C’est sans disque dur et sans alimentation ; ai-je loupé autre chose ?</p>
</blockquote>
<p>L’alim c’est normal, elle est généralement achetée en fonction du rack dans lequel placer la blade. Sans disque dur aussi, parce que :</p>
<ul>
<li>ils tombent souvent en panne (surtout sur les processus très demandeurs en I/O), et sont abîmés</li>
<li>ils stockent des données, donc ils sont conservés et réutilisés (ou détruits), mais ne devraient jamais être revendus</li>
<li>il peut arriver que les systèmes aient un bios qui permette de faire un boot PXE. On peut donc faire du diskless (système minimal en mémoire récupéré sur le réseau, avec juste ce qu’il faut pour calculer)</li>
</ul>
<blockquote>
<p>au-dessus de 300 €, je commence à faire la grimace</p>
</blockquote>
<p>Heu … si tu as des calculs aussi lourds à faire tourner pour ton travail et que tu y vas de ta poche, c’est qu’il y a un problème. Et 300€ pour un calculateur, c’est peu. A ce prix tu peux avoir deux-trois cartes mères + CPUs, mais c’est pas du gros CPU quoi. Et il faut compter l’alim + réseau stable (croiser les doigts pour que ça passe n’aidera malheureusement pas).</p>
<blockquote>
<p>des systèmes antédiluviens</p>
</blockquote>
<p>Si tu as un compte SSH sur un serveur de calcul, tu peux toujours installer dans ton home tes propres compilateurs & versions de python. Je fais ça souvent pour éviter de polluer ma partition système. Et ça permet de tester rapidement.</p>
<blockquote>
<p>Pour la mise en place, j’imagine qu’il suffit de lui coller un disque dur et une alimentation, mettre tout ça dans un rack, booter (sur un DVD ? une clé USB ?), puis installer le tout</p>
</blockquote>
<p>Comme indiqué plus haut, un système diskless peut aussi faire l’affaire : que ce soit un DVD/USB ou par le réseau, tu mets tout en mémoire, comme ça ça ira plus vite. Par contre il te faudra un HDD pour stocker les données persistentes. Et l’administration système, c’est assez compliqué, donc demande s’il n’y a pas un admin sys qui aurait la gentillesse de te filer un coup de main (surtout pour la config réseau).</p>
<p>EDIT: après m’être rendu sur la <a href="https://github.com/CFDEMproject/LIGGGHTS-PUBLIC">page publique du code source de LIGGGHTS</a>, il semblerait que les versions OpenCL et CUDA soient disponibles. Pareil pour OpenMPI. Je te conseille d’investir dans un GPU (pas trop cher, les quadro d’NVidia commencent à 100€), qui sera plus efficace niveau parallélisme que les CPUs.</p>Serveur de calcul perso, message #1383852017-01-11T22:04:20+01:00Gabbro/@Gabbrohttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138385<p>Aux dernières nouvelles, Liggghts ne marche pas avec les GPU (contrairement à Lammps) :</p>
<figure>
<blockquote>
<blockquote>
<p>Is this [GPU for Liggghts] a new developement and if so, is there any documentation on how to use it?</p>
</blockquote>
<p>no news on this - we’re following the developments on the LAMMPS side (that’s where the GPU package/lib comes from), but are not fully convinced of the merits for granular simulations. So no developments planned in the very near future</p>
</blockquote>
<figcaption><a href="http://www.cfdem.com/forums/gpu-liggghts">Christophe Kloss, dev liggghts, janvier 2016</a></figcaption>
</figure>Serveur de calcul perso, message #1383322017-01-11T18:49:52+01:00adri1/@adri1https://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138332<p>Pour des petits calculs aussi courts, il est parfaitement inutile de prendre un "vrai" serveur de calculs qui servira juste à exploser ton budget. Tu as l’air d’avoir surtout besoin de pouvoir avoir beaucoup de threads, donc avec un budget aussi serré, la seule solution est comme conseillé par victor, un GPU.</p>Serveur de calcul perso, message #1383282017-01-11T18:36:44+01:00cepus/@cepushttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138328<figure>
<blockquote>
<figure>
<blockquote>
<p>C’est quoi tes besoins plus précisément ?</p>
<p>Tu fais tourner quoi dessus, et comment ?</p>
</blockquote>
<figcaption><a href="https://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138313">victor</a></figcaption>
</figure>
<p>Plus précisément, c’est Ligggths, mais je doute que ça t’apporte plus d’info qu’un dérivé de lammps.</p>
</blockquote>
<figcaption><a href="https://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138320">Gabbro</a></figcaption>
</figure>
<p>Ça m’apporte au contraire énormément d’infos (enfin, s’il s’agit de Liggghts*), et ça me fait me poser plus de questions. Est-ce qu’au lieu d’avoir un rack, t’aurais pas avantage à acheter du GPU d’occasion ?</p>
<p>* d’ailleurs le nom est marrant, bien trouvé et facile à retenir ! </p>Serveur de calcul perso, message #1383202017-01-11T17:50:39+01:00Gabbro/@Gabbrohttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138320<figure>
<blockquote>
<p>C’est quoi tes besoins plus précisément ?</p>
<p>Tu fais tourner quoi dessus, et comment ?</p>
</blockquote>
<figcaption><a href="https://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138313">victor</a></figcaption>
</figure>
<p>Plus précisément, c’est Ligggths, mais je doute que ça t’apporte plus d’info qu’un dérivé de lammps.</p>
<p>Je le compile, ainsi que des programmes perso, et lance des calculs durant d’une demi journée à une semaine.</p>
<p>Je peux difficilement être plus précis que ce que j’ai dit jusqu’ici : je fais des calculs qui coutent beaucoup de temps de calculs, peu d’IO (1Go / jour de calcul), avec une faible consommation mémoire (très inférieur à 1 GB par <em>threads</em>).</p>
<p>Mon problème est avant tout logiciel, mais pour pouvoir le résoudre, je dois avoir ma propre machine. Et là, même un Xeon un peu vieux avec 24 <em>threads</em> et 8GB de RAM réponds largement à mes besoins.</p>
<p>Est-ce que vous avez de bonnes adresses, est-ce qu’au contraire vous avez déjà testé le reconditionné et le déconseillez, est-ce que c’est plus compliqué que ça en a l’air ? C’est plutôt ça le but de ce sujet.</p>
<blockquote>
<p>Attention avec lammps, comme tout bon programme de MD qui se respecte, il fait beaucoup d’I/O (en fait beaucoup de "O", mais c’est l’idée). Donc je reste sur mon idée d’un bon DD ou deux.</p>
</blockquote>
<p><del>Je n’ai pas les chiffres sous les yeux, mais de mémoire,</del> Le temps mis par les IO est très faible devant tout le reste (après vérification, c’est moins de 0,1 % du temps mis par le programme, c’est donc effectivement très faible). J’utilise un programme de type DEM (éléments discret), ce n’est pas tout à fait de la DM (beaucoup moins de voisins, en particulier).</p>Serveur de calcul perso, message #1383182017-01-11T17:41:47+01:00pierre_24/@pierre_24https://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138318<p>Attention avec lammps, comme tout bon programme de MD qui se respecte, il fait beaucoup d’I/O (en fait beaucoup de "O", mais c’est l’idée). Donc je reste sur mon idée d’un bon DD ou deux.</p>Serveur de calcul perso, message #1383132017-01-11T17:30:28+01:00cepus/@cepushttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138313<p>C’est quoi tes besoins plus précisément ?</p>
<p>Tu fais tourner quoi dessus, et comment ?</p>Serveur de calcul perso, message #1383102017-01-11T16:53:30+01:00SpaceFox/@SpaceFoxhttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138310<p>Du coup, des machines dans le cloud à base de cœurs pas trop puissants comme <a href="https://www.scaleway.com/">https://www.scaleway.com/</a> risquent de ne pas aller pour faire tes calculs. C’est dommage, c’eut été une bonne solution.</p>
<p>PS : sinon, tu installes des VMs modernes sur tes systèmes antiques <img alt=":)" src="/static/smileys/smile.png"></p>Serveur de calcul perso, message #1383092017-01-11T16:46:49+01:00Gabbro/@Gabbrohttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138309<p>Pour l’infra, j’espère pouvoir négocier de mettre des lames perso dans l’infra du labo, mais c’est pas gagné (du tout)…</p>
<p>J’avais déjà lu le lien, et ça m’a aussi poussé à chercher : ils proposent du 2x8 cœurs (2x16 <em>threads</em>) avec 64 GB de mémoire, soit beaucoup plus que ce dont j’ai besoin pour 750 $ (700 €), soit plus que ce que je suis prêt à mettre. <img alt="^^" src="/static/smileys/hihi.png"></p>
<p>Concernant mes besoins : j’utilise un dérivé de lammps, et des programmes perso couteux en temps de calculs, mais léger en mémoire : typiquement quelques centaines de MB par <em>threads</em> au maximum (que ce soit le dérivé de lammps ou mes programmes). Par contre, les calculs peuvent tourner un moment. La machine sur laquelle pointe (indirectement) le lien de SpaceFox serait plus puissante que ce qu’on a au labo, donc pas besoin de taper aussi haut.</p>
<p>Typiquement, sur des XEON de 2010 (je ne sais pas lesquels exactement), mes calculs mettent jusqu’à une semaine pour 8 <em>threads</em>. Ce n’est pas énorme, c’est vraiment la disponibilité d’une machine à jour qui fait ses calculs dans un coin (pas ma machine de bureau, sur laquelle je veux pouvoir faire autre chose) qui manque. Si j’ai plus, je saurai l’utiliser intelligemment, mais pour 90 % de mes usages, un truc un peu plus puissant que le lien dans mon 1<sup>er</sup> message me suffirait.</p>
<blockquote>
<p>Waw. Et dire qu’on se plaint de la vétusté de notre matériel, mais à côté de ça, je suis au paradis <img alt=":o" src="/static/smileys/huh.png"> </p>
</blockquote>
<p>Le pire, c’est que la puissance de calcul, <strong>on l’a</strong>. Je peux faire tourner ce que je veux en terme de calcul sans gêner personne, et ça marche. Mais les systèmes d’exploitation sont vieux et instables (dans le sens : aucune reproductibilité, des comportements bizarres régulièrement…). Et les permanents ne veulent pas y toucher, car ça marche pour eux (quoique, certains seraient bien content de changer de système). Je suis certain que quand j’aurai quitté le labo, les machines n’auront pas bouger d’un pouce d’un point de logiciel : ils veulent une homogénéité, donc les nouvelles (2014) machines ont le même système que les vieilles (à savoir CentOS 6, de mémoire), et comme les vieilles sont instables, on ne les touche plus…</p>
<blockquote>
<p>Sinon, tu t’es intéressé à Amazon Web Services ? Il y a beaucoup d’offres EC2 orientées calcul qui te coûteront peut-être moins cher.</p>
</blockquote>
<p>En pratique, je le demanderai en tant que particulier, donc je ne suis même pas sur d’être éligible.</p>
<p>En tout cas, merci pour réponses. <img alt=";)" src="/static/smileys/clin.png"></p>Serveur de calcul perso, message #1383082017-01-11T16:35:31+01:00SpaceFox/@SpaceFoxhttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138308<p>Les AWS EC2 sont prévus pour faire de la prod, donc sont relativement chers (on ne s’en rends pas forcément compte, mais le total monte <em>très</em> vite).</p>
<p>Tu as une idée de la puissance demandée (CPU et RAM) ?</p>Serveur de calcul perso, message #1383072017-01-11T16:29:22+01:00FeaturettesAffect/@FeaturettesAffecthttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138307<p>Salut,</p>
<p>J’avais un ancien serveur pour un usage perso, ça fait un boucan de dingue, vraiment. Impossible de travailler à côté, c’est comme un aspirateur.</p>
<p>Sinon, tu t’es intéressé à <a href="https://aws.amazon.com/government-education/research-and-technical-computing/">Amazon Web Services</a> ? Il y a beaucoup d’offres EC2 orientées calcul qui te coûteront peut-être moins cher.</p>Serveur de calcul perso, message #1383062017-01-11T16:28:35+01:00pierre_24/@pierre_24https://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138306<p>Waw. Et dire qu’on se plaint de la <em>vétusté</em> de notre matériel, mais à côté de ça, je suis au paradis <img alt=":o" src="/static/smileys/huh.png"> </3615malife></p>
<p>Alors : réalisable, oui, ça l’est clairement. Le reconditionné nous "sauve la vie", on s’en sert pour les machines sur lesquelles nos étudiants font leurs TPs, et ils travaillent sur du <em>matos</em> du coup de 2008, si ma mémoire est bonne. En fait, ce qu’on constate, c’est que c’est pas la <em>blade</em> qui lâche, c’est le disque dur, l’alim ou la mémoire. D’où un conseil idiot, c’est de prendre un DD en double, on ne sais jamais.</p>
<p>Je sais pas ce que sont tes besoins en ressources calculatoire (en terme de mémoire et de nombre de processeurs), mais c’est pas impossible pour pas trop cher. À ce sujet, n’oublie pas non plus qu’en plus de l’espace de stockage, il te faut de la RAM (j’irais même plus loin, il te faut de la <strong>vieille</strong> RAM, donc n’oublie pas de regarder de ce côté là). Je n’ai aucune idée de comment l’alimentation de ces choses fonctionne exactement, mais je doute que tu puisse y arriver sans un <em>rack</em>.</p>
<p>Niveau système, n’importe quel Linux fera l’affaire (bon, pas la <em>stable</em> de Debian si tu veux que tes libs soient un minimum à jour), mais je te conseille quand même d’y installer un <em>scheduler</em> pour la gestion de la file d’attente et des ressources. Chez nous, on utilise <a href="https://slurm.schedmd.com/">SLURM</a>, qui est libre et gratuit. Je sais pas à quel point c’est chiant à configurer, mais une fois que c’est fait, joie.</p>
<p>Si t’as des questions précise, je suis en très bon terme avec mon administrateur système (qui justement gère les machines reconditionnées pour les étudiants, mais aussi celles des chercheurs), je peux lui demander des conseils.</p>
<p><em>Peace</em> <img alt=";)" src="/static/smileys/clin.png"></p>
<p>EDIT: bien vu, Spacefox.</p>Serveur de calcul perso, message #1383052017-01-11T16:19:42+01:00SpaceFox/@SpaceFoxhttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138305<p>Concernant le point 2, une lame de calcul sans <a href="https://fr.wikipedia.org/wiki/Serveur_lame">l’infra pour héberger lesdites lames</a> (en particulier l’alim en courant continu et la ventilation), ça risque d’être compliqué à faire tourner.</p>
<p>Sinon, cf <a href="http://linuxfr.org/users/vejmarie/journaux/et-si-l-open-hardware-democratisait-l-usage-d-ordinateurs-reconditionnes">http://linuxfr.org/users/vejmarie/journaux/et-si-l-open-hardware-democratisait-l-usage-d-ordinateurs-reconditionnes</a> qui peut te donner des pistes / idées.</p>Serveur de calcul perso, message #1383032017-01-11T16:08:39+01:00Gabbro/@Gabbrohttps://zestedesavoir.com/forums/sujet/7763/serveur-de-calcul-perso/?page=1#p138303<p>Bonjour,</p>
<p>À mon boulot, nous avons des serveurs de calcul. Cependant, ceux-ci tournent sous des systèmes antédiluviens<sup id="fnref-gcc"><a class="footnote-ref" href="#fn-gcc">1</a></sup>. J’en vient à me demander si ce ne serait pas plus intéressant<sup id="fnref-moulins"><a class="footnote-ref" href="#fn-moulins">2</a></sup> de m’acheter un serveur de calcul, et d’y installer ce que je veux. En me renseignant un peu, j’ai vu qu’on pouvait trouver des trucs pas trop cher en reconditionné.</p>
<p>Les questions maintenant :</p>
<ul>
<li>Je pars plutôt sur du Xeon, car 1- ça se trouve facilement d’occasion, 2- c’est ça qui est présent un peu partout dans les parcs que je côtoie, 3- j’utilise des logiciels bien parallélisés, donc un gros processeur seul n’a pas d’intérêt particulier. Mais est-ce une bonne idée, y a-t-il des alternatives ?</li>
<li>Je suis tombé sur des trucs comme <a href="http://serveur-occasion.com/fr/serveurs/63596-serveur-hp-proliant-bl460c-g7-1-x-xeon-quad-core-l5630-16-gigas-blade-3663959028531.html">ça</a> (pour prendre un exemple pas cher). Je suis presque étonné que ce soit aussi peu cher : Xeon quad core (8 <em>threads</em>) sorti en 2010 pour moins de 100 €. C’est sans disque dur et sans alimentation ; ai-je loupé autre chose ? Y a-t-il anguille sous roche ?</li>
<li>Avez-vous déjà acheté des serveurs reconditionnés ? Si oui, des conseils, des retours, de bonnes adresses<sup id="fnref-budget"><a class="footnote-ref" href="#fn-budget">3</a></sup> ?</li>
</ul>
<p>Pour la mise en place, j’imagine qu’il suffit de lui coller un disque dur et une alimentation, mettre tout ça dans un rack, <em>booter</em> (sur un DVD ? une clé USB ?), puis installer le tout. Une fois le port ssh ouvert, c’est fini. Me fais-je des idées, et qu’en fait c’est plus compliqué ?</p>
<p>J’ai déjà fouillé un peu, mais je préfère m’assurer que je ne suis pas à côté de la plaque avant d’aller plus loin. Mon usage est basique : je me connecte en ssh, lance des calculs, et reviens quelques heures, jours ou semaines plus tard récupérer les résultats. J’en serai l’administrateur et utilisateur principal<sup id="fnref-porte"><a class="footnote-ref" href="#fn-porte">4</a></sup>.</p>
<p>Bref : est-ce réaliste ?</p>
<div class="footnote">
<hr>
<ol>
<li id="fn-gcc">
<p>Gcc 4.4 (2010), python 2.6… On est plusieurs (tous ceux qui font un peu de programmation) à se plaindre que plein de choses ne compilent pas car les bibliothèques système sont trop vieilles. On n’est pas hyper exigent : moins de 5 ans, quand on bosse dans la recherche, ça me parait raisonnable… <a class="footnote-backref" href="#fnref-gcc" title="Retourner au texte de la note 1">↩</a></p>
</li>
<li id="fn-moulins">
<p>Plutôt que de me battre contre des moulins. <a class="footnote-backref" href="#fnref-moulins" title="Retourner au texte de la note 2">↩</a></p>
</li>
<li id="fn-budget">
<p>Ce sera moi qui paye, pour pouvoir travailler tranquille, donc au-dessus de 300 €, je commence à faire la grimace. <a class="footnote-backref" href="#fnref-budget" title="Retourner au texte de la note 3">↩</a></p>
</li>
<li id="fn-porte">
<p>Je suis prêt à ouvrir ma porte à des amis doctorants qui sont dans le besoin. Mais on sera 4 à tout casser, avec peu ou prou les mêmes besoins. <a class="footnote-backref" href="#fnref-porte" title="Retourner au texte de la note 4">↩</a></p>
</li>
</ol>
</div>