1925 wurde das Konservatorium von der Hofpianistin Prof. Elisabeth Lange als Schweriner Musikseminar eröffnet. Es bot den zukünftigen Musikern eine Fachschulausbildung in allen Fächern der Musik an. Parallel dazu eröffnete am 01.09.1953 die Musikschule mit 38 Schülern.

1989, anlässlich des 200. Todestages des mecklenburgischen Komponisten und Hofkapellmeisters Johann Wilhelm Hertel erhielt, das Konservatorium seinen Namen und heißt seitdem Konservatorium Schwerin, Musikschule „Johann Wilhelm Hertel“.

Das Konservatorium - die städtische Musikschule der Landeshauptstadt - ist Mitglied im Verband deutscher Musikschulen und im Verband Jeunesses Musicales Deutschland e. V. und wird durch die Elternvertretung und den Förderkreis unterstützt. Mit viel Engagement vermitteln die Lehrenden ihren Schülerinnen und Schülern den Spaß am Lernen und die Freude an der Musik. Und das tun sie mit großem Erfolg. Aufführungen des Musicals  „Tabaluga“ oder der Oper „Brundibár“, regelmäßige Teilnahme an nationalen und internationalen Wettbewerben, Konservatoriumsfeste, musikalische Umrahmungen aller Art, Begegnungen mit Schülerinnen und Schülern anderer Musikschulen aus dem In- und Ausland gehören zum lebendigen Musikschulalltag.

Das Konservatorium entwickelt ständig interessante neue Unterrichtsangebote. Dazu gehörten in den vergangenen Jahren u. a. die Einbeziehung von Computertechnik im Jazz/Rock/Pop-Bereich, KONFLEX das Angebot für Vielbeschäftigte, der Musikgarten für die Jüngsten, der Unterricht für Menschen mit Migrantionshintergrund, auf Wunsch auch in russischer Sprache, der Klassenunterricht in den allgemeinbildenden Schulen und das Musizieren mit dem iPad.