Jean-Michel Noël débute sa carrière musicale en dirigeant plusieurs ensembles vocaux d'enfants et d'adultes à Vannes et Rennes : les Petits Chanteurs de Saint-Patern de Vannes, l'Ensemble Via Nova, l'Ensemble vocal Arioso, les Petits Chanteurs de Saint-Michel et la Psallette de Rennes. Avec cette dernière, il remporte le prix de musique contemporaine et le deuxième grand prix au Festival des Chœurs d'enfants de Nantes en 1988.
En 1989, il fonde la Maîtrise de Bretagne (originellement Maîtrise de Haute-Bretagne) au Conservatoire à Rayonnement Régional de Rennes, avec le soutien de l'État et des collectivités territoriales. Il en assure la direction artistique et pédagogique pendant trente ans, formant près de quatre cents jeunes chanteurs en partenariat avec les collèges et lycées rennais. En 1994, il reçoit le prix Palestrina décerné par la Fondation France Télécom.
Avec la Maîtrise de Bretagne, il enregistre une vingtaine d'albums couvrant un large éventail stylistique allant du répertoire baroque à la création contemporaine en passant par le patrimoine breton : Requiem de Tomás Luis de Victoria, Te Deum et musique sacrée de Marc-Antoine Charpentier (enregistrement de 2008 distingué par le label « Les Indispensables de Diapason »), Stabat Mater de Sébastien de Brossard, Requiem de Gabriel Fauré, Vêpres de Nicola Porpora, Grands Motets de Michel-Richard de Lalande, Psaume sur le Printemps de Vivaldi par Corrette, et plusieurs disques consacrés aux noëls traditionnels bretons (Kanom Nouel) dont il signe les arrangements.
Il collabore avec des figures du monde musical et des ensembles renommés, tels que Jean-Christophe Spinosi (Matheus), Jérôme Corréas (Les Paladins) et Martin Gester (Le Parlement de Musique), et se produit dans des lieux prestigieux comme le Théâtre des Champs-Élysées, la Chapelle royale de Versailles, La Chaise-Dieu ou le Festival Bach de Lausanne.
En juillet 2019, il est promu chevalier dans l'ordre des Palmes Académiques par le ministre de l'Éducation nationale Jean-Michel Blanquer, et prend sa retraite du conservatoire le 30 septembre 2019. Maud Hamon-Loisance lui succède à la tête de la Maîtrise. Il rejoint alors le Chœur d'Enfants de Bretagne, refondé en résidence à la cathédrale de Rennes par d'anciens maîtrisiens — dont le ténor Kaëlig Boché —, projet à l'image des manécanteries anglaises qu'il porte de longue date. Il a formé de nombreux artistes aujourd'hui reconnus, notamment le contre-ténor Damien Guillon et la mezzo-soprano Stéphanie d'Oustrac.