Bez wątpienia najstarszą parafią katolicką na Gochach jest parafia w Borzyszkowach, której historia sięga XIV w., a według niektórych źródeł istniała już w XIII w. Pierwotny kościół uległ spaleniu w wielkim pożarze w 1721 r., a z nim bogaty księgozbiór dokumentacji kościelnej. Świątynia została wkrótce odbudowana przez proboszcza Kleknera. Kościół pw. św. Marcina z Tours stanowi centrum religijnego życia Gochów. XVIII-wieczna drewniana budowla jest cennym przykładem pomorskiego baroku. Kościelne wnętrze łączy nieliczne zachowane XVIII-wieczne barokowe elementy ze współczesnymi. Np. belka tęczowa o dekoracji kwiatowo-roślinnej z postaciami Matki Bożej, św. Jana Ewangelisty i św. Marii Magdaleny to późnobarokowe dzieło z pierwszej połowy XVIII w. Natomiast znajdujący się w pobliżu niej prospekt organowy pochodzi z 1982 r. Takich przykładów znajdziemy w kościółku wiele. Stare i nowe elementy współgrają z klimatem ludowego wystroju wnętrza. W 2006 r. piękna, drewniana świątynia, którą warto zobaczyć, została laureatem konkursu Generalnego Konserwatora Zabytków Rzeczypospolitej Polskiej pod nazwą "Zabytek zadbany". Było to ukoronowanie wieloletnich starań proboszcza Jana Flisikowskiego i parafian o zabezpieczenie zabytkowego kościoła przed dalszym niszczeniem. Pomorskie wiatry, duża wilgotność powietrza i niska temperatura w błyskawicznym tempie przyczyniają się do wypaczania drewna i atakowania go przez szkodniki i grzyby. W pasie nadmorskim drewniane stare budynki są rzadkością.
Warto się w kościółku zatrzymać i posłuchać kaszubskiej mszy. Mieszkańcy Gochów śpiewają pięknie, a ich kilkuzwrotkowe religijne pieśni zgodnie z wielowiekową tradycją muszą być odśpiewane do końca. Z kościołem sąsiaduje najstarsza nekropolia w Lipnicy - cmentarz rzymskokatolicki - którego część przykościelna pochodzi jeszcze ze średniowiecza.