Sammaljoen ja läheisten Etelä-Tyrvään kylien asukkaat anoivat 1828 Turun tuomiokapitulilta lupaa oman saarnahuoneen ja hautausmaan rakentamiseen. Perusteluna oli pitkä matka Tyrvään kirkolle Kallialaan. Lupa heltisi, ja ensimmäinen kirkko vihittiin käyttöön 1834.

1900-luvun alussa sammaalaiset haaveilivat itsenäistymisestä omaksi seurakunnaksi, mutta hanke kaatui Tyrvään seurakunnan vastustukseen ja tuomiokapitulin kielteiseen päätökseen.

Sisällissodassa 1918 kirkko paloi, kuten suuri osa kulmakunnan rakennuskannasta.

Nykyisen idyllisen puukirkon suunnitteli arkkitehti Ilmari Launis, ja se valmistui 1924. Alttarilla oleva veistos Kristus ristillä on Paavo Hakalan tekemä.

Sammaljoen saarnahuonekunta lakkautettiin 1946, jolloin kirkko ja hautausmaa siirtyivät Tyrvään seurakunnalle.