C’est assez difficile de donner des conseils. Ma première réaction, c’est immédiatement souligner qu’étudier les mathématiques, seul, avec des livres ou des vidéos, ça peut être très difficile. Surtout pour un premier contact ou une reprise de contact. Rien ne vaut un ou une prof pour bien apprendre.
Cette remarque étant faite, je dirais que ça dépend aussi de tes objectifs.
Si ton but est simplement d’éveiller ta curiosité sur des mathématiques élégantes, sans faire trop de technique ou de démonstrations, il y a plein de choses sur Internet :
- La chaîne Youtube de El JJ, francophone, est vraiment top !
- Il y a aussi la les vidéos de Mickaël Launay, même si personnellement j’aime moins.
- Image des maths est un blog avec des contenus pour tous les niveaux, écrit par des personnes sérieuses et c’est sympa pour une lecture de temps en temps ;
- Pour le grand public, mais à destination de personnes ayant un petit bagage mathématique, il y a la revue Tangente.
Tout ça est intéressant et fun, mais cela ne te permettra pas d'étudier les mathématiques, et ne t’apprendra pas à faire des mathématiques.
Si tu veux plutôt étudier les maths, au sens où tu souhaites lire des démonstrations, comprendre des exemples ou développer ta culture générale, il faudrait plutôt te diriger vers des livres rédigés pour des étudiant⋅es à la fac. Mais c’est souvent difficile de rentrer dans ce genre d’ouvrages. Et surtout, cela dépend très fortement de ton bagage actuel ! Si tu as l’équivalent d’un niveau lycée, ça me paraît vraiment difficile sans prof. Avec un petit niveau licence/début de prépa, je pense que n’importe quel livre de prépa ou de licence fait l’affaire. J’aime particulièrement les ouvrages rédigés sous la direction de Jean-Pierre Marco et d’Aviva Szpirglas, L1 Mathématiques, L2 Mathématiques, L3 Analyse et L3 Algèbre, aux éditions Pearson. Ils sont malheureusement épuisés chez l’éditeur, mais disponible dans toute bonne bibliothèque universitaire. Ce sont des livres assez difficiles et théoriques, mais bien plus intéressants que les sempiternels livres de prépa que l’on trouve partout. Par contre, il y a peu d’exercices pour travailler la technique.
Si maintenant ton objectif est d’apprendre à faire des mathématiques, à résoudre des problèmes, à calculer efficacement, à faire des démonstrations, je ne vois pas tellement d’autre solution que de s’inscrire à des cours. Surtout si tu t’évalues comme relativement débutant, ça paraît difficile d’acquérir le bagage technique et culturel sans enseignement physique. Su tu te considères plutôt comme un amateur éclairé ou ayant déjà un bagage raisonnable en maths, tu peux bosser avec des livres d’exercices et étudier la théorie de façon autodidacte. Auquel cas, il faut se promener dans les bibliothèques pour trouver des livres qui te plaisent.