Initiativet til at starte en lokalhistorisk forening i Jels, blev taget på et møde d. 19. juni 1984, på mødet blev man enige om at lave en udstilling af lokalhistoriske effekter fra sognet, der skulle skabe interesse for at starte en forening.
Udstillingen blev aftalt til at skulle finde sted d. 13. og 14. oktober på Hotel Jels, der var også enighed om at indkalde til stiftende generalforsamling d. 22. oktober.
Udstillingen blev en kæmpe succes og til den stiftende generalforsamling mødte 36 personer. den første bestyrelse kom til at bestå af: Margit Ottosen, Svend Knudsen, Bé Manrho, Harald Dall, Jens Ravn, Jens Grøngbjerg og Ingrid Munksgaard.
Udstillingen havde medvirket til, at der allerede fra starten var afleveret mange dokumenter og billeder. Der var i starten lidt problemer med at finde egnede lokaler, da det viste sig, at lokalerne man havde fået anvist, viste sig at være uegnede. I foråret 1985 gik man så i gang med at indrette lokaler på skolens loft, der lå i tilknytning til loftsrummet hvor nogle af skolens lærere gennem tiderne havde samlet en mængde gamle effekter bl. a. en del landbrugsredskaber.
D. 9. november 1985 blev de istandsatte lokaler indviet og det var nu muligt at opbevare arkivalier og billeder under betryggende forhold, og ved hjælp af råd og vejledning fra fagfolk, med forstand på registrering og arkivering blev grunden lagt til det arkiv vi kender i dag.
Det første store projekt var udgivelsen af Thomas Dinesens håndskrevne erindringer, der omtaler næsten alle huse og ejendomme i sognet, foruden en mængde begivenheder i årene 1900 til et stykke efter Genforeningen i 1920, et værk der efterhånden viste sig at omfatte 450 sider. Med hjælp fra konsulent Henrik Fangel, Aabenraa og bibliotekar Krag Nielsen, Rødding til at gennemarbejde teksten, var bogen klar til udgivelse i efteråret 1986, og d. 8. og 9. november blev bogen præsenteret ved en udstilling i Misionshuset. Der var på forhånd solgt 300 eksemplarer og på udstillingen blev der solgt yderligere 200 stk.
I forbindelse med foreningens 10 års jubilæum blev Arkivets ejendomsarkiv oprettet, formålet var at få samling på oplysningerne man havde om ejendomme i sognet og have et sted at arkivere ejendoms oplysninger og billeder.
Da bestyrelsen får underretning om at kommunen har overvejelser om hvad den tidligere rutebilstation på Jels torv kunne anvendes til, lokalerne stod tomme efter at venterummet var nedlagt.
Der bliver taget kontakt til Olav Finnemann og borgmester Peter Holst, og der bliver lavet en 10årig aftale om at lokalhistorisk forening må anvende lokalerne og foreningen selv istandsætter lokalerne, den udvendige vedligeholdelse er kommunens sag. Huset blev indrettet med indgang udstillingslokale og boksrum og på loftet 3 arbejdsrum. Det blev derved muligt at udstille mange af de ting der var stuvet sammen på skolens loft og opbevaring af arkivalier og billeder i brandsikret boksrum var perfekt.
Sidste skud på ”stammen” er at kælderrummet er renoveret og den store samling af smede håndværkstøj er blevet anbragt der.