Visionerne om at skabe kirkemusikalske uddannelsescentre i Danmark begyndte at spire frem tilbage i 1960’erne, men først i 1979 begyndte Løgumkloster Kirkemusikskole – som den første af senere tre kirkemusikskoler – sin virksomhed som privat institution. Peter Langberg var skolens rektor fra 1983 til 2009, og han har som mangeårig leder af institutionen haft afgørende indflydelse på skolens drift og på udformningen af studieplaner og organisering af kirkemusikskolernes arbejde.

Tanken var at placere de kirkemusikalske uddannelsescentre i de gamle kirkecentre som Løgumkloster, Vestervig og Roskilde. Idéen med en kirkemusikskole i Vestervig blev igen aktuel, da kirken skulle have et nyt orgel af en størrelse, der passede til den gamle klosterkirke. Med et af Danmarks ti største orgler var det naturligt at ansætte en konservatorieuddannet organist, som også skulle være rektor og lærer på kirkemusikskolen. Vestervig Kirkemusikskole så dagens lys i 1980.

I de første ti år blev såvel undervisningen i Haderslev, Ribe og Fyns stifter som på Sjælland varetaget af Løgumkloster Kirkemusikskole. I 1992 etableredes Sjællands Kirkemusikskole.

Undervisningen foregik i starten som holdundervisning under aftenskoleloven. Kort tid efter blev der udarbejdet en studieordning, så uddannelsen blev kompetencegivende, og holdundervisning i hovedfag forsvandt. Siden 1983 har Løgumkloster Kirkemusikskole og Vestervig Kirkemusikskole været uddannelsesinstitutioner under Kirkeministeriet og fik følge af Sjællands Kirkemusikskole i 1992.

Løgumkloster
Undervisningen på Løgumkloster Kirkemusikskole har fra 1982 været centreret om villaen i Vestergade 13, og siden 1991 har skolen tillige haft nabobygningen, det gamle postkontor, der nu rummer administrationslokaler, en korsal samt faciliteter til overnatning. Undervisning i klokkespil finder ligeledes her i hovedafelingen.

Fra skolens start har man lagt vægt på decentrale undervisningssteder i form af lokale afdelinger. I Horsens etableredes i skolens første år en afdeling, der siden har haft til huse i Vor Frelsers Kirke samt i menighedslokalerne. I Odense undervises der på Tornbjerg Gymnasium, dog foregår al orgelundervisningen i kirker i Odense. Tarm-afdelingen har til huse i Tarm Kirke og lokaler dertil.

Undervisning af organister i Sydslesvig finder dette sted som udlagt undervisning fra Løgumkloster.

Vestervig
I de første år delte Vestervig Kirkemusikskole lokaler med Sydthy Musikskole, men elevtallet voksede, så i 1984 flyttede kirkemusikskolen ind i Abildhauge-bygningen. Elevtallet var fortsat stigende, og behovet for større undervisningslokaler og værelser til overnatning førte til, at Annekset kunne tages i brug i 1992. Et stadigt stigende elevtal skabte et behov for afdelinger tættere på elevernes bopæl. Derfor oprettedes afdelingen i Aalborg i 1985 og Aarhus i 1986.

I 2008 udvidedes der igen med nye lokaler i Packness- og Plesner-bygningerne. Kirkemusikskolen fik tidssvarende administrationslokaler og bibliotek og – som landets eneste kirkemusikskole – en specialafdeling for hymnologi og liturgi.

Sjælland
Sjællands Kirkemusikskole har til huse i Allehelgensgade 19 i en gammel murermestervilla. Huset blev opført i 1893-1895 af murermester Carl Schledermann, en af byens fremtrædende murermestre, og gennem en årrække oldermand for Murerlauget, hvilket også kan ses på nordgavlen, hvor Murerlaugets segl i kakler, tegnet af den berømte kunster og arkitekt Thorvald Bindesbøll, er placeres. Schledermanns søn Frederik Schledermann overtog huset. I 1929 blev huset købt af Carl Hansen, der havde Tuborg-depot i Allehelgensgade 16. I 1940 flyttede Carl Hansen sit depot til Allehelgensgade 19.

I 1971 blev bygningerne overtaget af advokaterne Povl Krüger, Ole Buck-Rasmussen og Nielsen Krüger, der herefter indrettede bygninger til advokatkontor. I den forbindelse blev der opført en receptionsbygning, der forbinder hovedhuset med den tidligere depotbygning. Samtidig blev en stor del af den beundrede have inddraget til parkeringspladser. I 2018 flyttede Sjællands Kirkemusikskole fra Allehelgensgade 8 til nr. 19, og i forbindelse med flytningen blev der ombygget, så der nu er en stor sal, øvelokaler og kontorlokaler. I dag rummer huset, fra kælder til første sal, 16 undervisningslokaler, en frokoststue, køkken, et mindre bibliotek, kontorer, tre orgler, to flygler og et utal af klaverer.