A templomot Csekonics József (Josef Čekonjić) emeltette 1808. szeptember 1-jén, abban az időben, amikor Csernye (Crnja) Szerbcsernyére és Németcsernyére oszlott. Valójában Németcsernye lakói építették, az anyagot pedig Csekonics gróf adta. A kőkeresztet és az előtte álló szobrokat a helybeliek adták. Október 18-án vette át a plébános, Kőszeghy László (Ladislaus Koszeghi von Remete) püspök pedig 1811-ben áldotta meg Szent József tiszteletére. 1847-ben a templomot kirabolták, és jelentős kár keletkezett. Belsejét egykor a pompás főoltár és a Mária-oltár ékesítette. A hívek főként karácsonykor és húsvétkor gyűltek össze a templom körül.
A templom nagy érdeklődést kelt a külföldi látogatók körében, mindenekelőtt azoknál a németeknél, akiknek az ősei egykor Csernyén éltek, és akik a gyökereiket keresve jönnek ide.