Skolen begyndte sin virksomhed i 1979 som privat institution under ledelse af Peter Langberg. Siden 1983 har Løgumkloster Kirkemusikskole været en uddannelsesinstitution under Kirkeministeriet. Skolens primære område er Haderslev Stift, Ribe Stift og Fyens Stift. Desuden henregnes Horsens Provsti til Løgumkloster Kirkemusikskole.
I de første ti år blev såvel undervisningen i disse stifter som på Sjælland varetaget af Løgumkloster Kirkemusikskole. I 1992 etableredes Sjællands Kirkemusikskole. Peter Langberg var skolens rektor fra 1983 til 2009. Han har som mangeårig leder af institutionen haft afgørende indflydelse på skolens drift og på udformningen af studieplaner og organisering af kirkemusikskolernes arbejde. I 2009 tiltrådte Hans Christian Hein som rektor.
Undervisningen på Løgumkloster Kirkemusikskole har fra 1982 været centreret om villaen i Vestergade 13, der rummer en række undervisningslokaler, bibliotek, m.v. På billedet i toppen af siden er det bygningen til højre med det røde tag. Fra 1991 har skolen tillige haft nabobygningen i Vestergade 9, der rummer administrationslokaler, en korsal samt faciliteter til overnatning.
Skolens undervisning i klokkespil har siden 2000 fundet sted i lokaler på Markedspladsen 7 samt i annekset bag Vestergade 9, hvor der er mulighed for at opstille skolens transportable klokkespil.
Fra skolens start har man lagt vægt på decentrale undervisningssteder i form af lokale afdelinger. I Horsens etableredes i samarbejde med organist Klaus Lyngbye i skolens første år en afdeling, der siden har haft til huse i Vor Frelsers Kirke samt i menighedslokalerne. I Odense undervises der på Dalum Landbrugsskole, dog foregår al orgelundervisningen i kirker i Odense. Tarm-afdelingen har til huse i Tarm Kirke og lokaler der til.
Undervisning af organister i Sydslesvig har i mange år fundet sted på en afdeling i Flensborg. For tiden finder dette sted som udlagt undervisning fra Løgumkloster. Lokale afdelinger kan etableres efter behov, og der har i perioder været sådanne i bl.a. Fredericia og Svendborg.