[ML] [CNN] Relier la partie fully-connected à plusieurs couches de la partie CONV ?

Le problème exposé dans ce sujet a été résolu.

Salut à tous !

Je me suis demandé quelque chose: est il possible de relier la partie fullyconnected d’un CNN non pas qu’à la dernière couche de convolution mais AUSSI à celles qui sont "plus haut" du réseau ? L’idée étant d’avoir plus de feature pour l’apprentissage. Je n’ai rien trouvé sur google, mais je ne voit pas trop quels mot clés tester :)

Merci d’avance si vous avez des infos !

Oui, c’est possible, mais la question est plutôt : est-ce pertinent ?

Par exemple, la première couche de convolutions constitue des filtres simples, qui permettent par exemple de trouver des bords, des lignes, bref, des motifs très simples. Les relier à la couche fully connected n’est peut-être pas intéressant.

Justement c’est mon point : dans un cadre de "deep learning", est-ce que trop d’abstractions ne risquent pas d’enlever des features plus simples mais qui pourraient être pertinentes ?

Je n’ai pas trouvé d’info dessus sur les papiers que j’ai survolé…

Il ne faut pas oublier que dans une couche convolutionelle, le filtre identité est un cas particulier de filtre, donc si les features basiques sont vraiment importantes, il y a des chances qu’elles soient quand même à peu près prises en compte.

Il n’en reste pas moins possible d’avoir de meilleurs résultats en faisant des raccourcis de la sorte, mais il faut trouver un équilibre entre la recherche de l’architecture et l’entraînement du réseau.

Connectez-vous pour pouvoir poster un message.
Connexion

Pas encore membre ?

Créez un compte en une minute pour profiter pleinement de toutes les fonctionnalités de Zeste de Savoir. Ici, tout est gratuit et sans publicité.
Créer un compte