Die Langheimer Mönche hatten sicher auch eine missionarische Aufgabe im Nortwald. Und so waren sie vermutlich in Effelter die Initiatoren für den Bau einer kleinen Kapelle, die von Linden umringt war. Im Volksmund wird dieses kleine Kirchlein heute noch die „Fünf-Linden-Kapelle“ genannt. Etwa um 1400 herum machte die wachsende Bevölkerungszahl einen Neubau erforderlich. Diese erste Kirche war vermutlich dem Hl. Jakobus geweiht und lag somit an einem Pilgerweg nach Santiago de Compostella. 1486 wurde ein Ablass erteilt und die Kirchengemeinde Effelter erstmals urkundlich erwähnt. 1769 ließ Pfarrer Johann Konrad Mitlacher eine Mauer um die Kirche ziehen. Dass es sich um eine Wehrkirche handelt, unterstreichen auch die Schießscharten im ersten Obergeschoss des Turmes.
Im Jahr 1807 wütete im Ort ein schrecklicher Brand, bei dem auch die Kirche fast völlig zerstört wurde. Beim Wiederaufbau 1809 wurde das Langhaus um eine Achse erweitert. Aus der profanierten Kronacher Martinskirche bekam man einen Großteil der Inneneinrichtung. Nach dem 2. Vatikanischen Konzil wurde ein Volksaltar aufgestellt; der Marienaltar wurde entfernt. Das besondere Schmuckstück ist eine Muttergottesstatue mit Kind und Strahlenkranz aus dem 15. Jahrhundert. Im Jahre 2009 wurde die Filialkirche außen und innen renoviert. Den neuen Volksaltar aus Lindenholz weihte Erzbischof Dr. Ludwig Schick am 1. August 2009 mit einem Festgottesdienst ein.