Johannes Paul Aeltermann urodził się 26 czerwca 1876 r. w Gdańsku, w rodzinie mistrza szewskiego Franza Aeltermanna. Uczył się w gimnazjach w Gdańsku, potem w Chełmnie, gdzie w 1899 r. zdał maturę. Studiował w seminarium duchownym w Pelplinie, gdzie w 1904 r. otrzymał święcenia kapłańskie. Pracował jako wikariusz i administrator w parafiach diecezji chełmińskiej, m.in. Tucholi, Lęborku i Starogardzie.

W 1912 r. został powołany na proboszcza parafii w Mierzeszynie, która po roku 1920 znalazła się w granicach diecezji gdańskiej. Prócz pracy duszpasterskiej prowadził tam ożywioną działalność społeczną, także na rzecz ewangelików, stanowiących na tamtych terenach zdecydowaną większość.

W swych kazaniach wskazywał na potrzebę poprawy warunków życiowych najuboższych warstw społeczeństwa, czyli chłopów i robotników. Zabiegał o lepszą opiekę lekarską i zaopatrzenie mieszkańców wsi, wśród młodzieży wiejskiej zorganizował kursy dokształcające.

Był zdecydowanym przeciwnikiem rodzącego się hitleryzmu. Na tydzień przed wyborami do Volkstagu, czyli parlamentu Wolnego Miasta Gdańska, które odbywały się w maju 1933 r., wydał broszurkę „Hakenkreuz oder Christenkreuz?” (Swastyka czy Krzyż Chrystusowy?). Przestrzegał w niej przed narodowym socjalizmem i wskazywał na jego sprzeczność z zasadami chrześcijaństwa.

Postawa, jaką reprezentował, ściągała na niego szykany. W 1935 r. został aresztowany przez policję za „obrazę kanclerza Adolfa Hitlera”. Zwolniono go po tygodniu dzięki interwencji bp. Eduarda O’Rourke’a. Innym razem ostrzeżony przez parafian przez pewien czas ukrywał się, dzięki czemu uniknął napadu organizowanego przez bojówkę SA.

W ramach zastraszania nazistowscy bojówkarze niszczyli przydrożne krzyże, wybijali szyby w budynku plebanii. Wiernym nakazywano bojkot nabożeństw oraz zerwanie kontaktów towarzyskich z niepokornym kapłanem. Taka sytuacja trwała przez kilka lat aż do wybuchu II wojny światowej.

Ks. Aeltermann został aresztowany 21 listopada 1939 r. Był przetrzymywany w majątku ziemskim Nowy Wiec pod Starogardem Gdańskim. Znalazł się w grupie kilkudziesięciu osób, przede wszystkim Polaków, które dzień później zostały rozstrzelane w tym samym miejscu.

Wraz z niemieckim kapłanem zamordowano dwóch polskich duchownych: ks. A. Kwiatkowskiego oraz ks. Kamińskiego. Zmuszeni do wykopania grobów i zakopywania wcześniej rozstrzelanych, wszyscy trzej kapłani zostali zamordowani jako ostatni. Sprawcami mordu byli członkowie miejscowego Selbstschutzu.

Szczątki księdza Aeltermanna zostały po wojnie ekshumowane i złożone w grobie obok kościoła św. Bartłomieja Apostoła w Mierzeszynie. Kościół katolicki w Niemczech uznaje go za jednego z męczenników wiary XX wieku. Prowadzone są starania o jego beatyfikację.