Karol Koziołek urodził się 1 marca 1856 r. w Otmęcie na Śląsku Opolskim. Uczył się w gimnazjum w Opolu, a teologię skończył na Uniwersytecie Wrocławskim. Na uczelni założył Towarzystwo Studentów Górnoślązaków. W 1882 r. podjął naukę w seminarium duchownym w Ratyzbonie, rok później przyjął święcenia kapłańskie.

Od 1890 r. był proboszczem parafii w Woli koło Pszczyny, a od 1897 r. aż do 1934 r. pracował w parafii w Grabinie pod Prudnikiem. Z jego inicjatywy założono tam prywatną szkołę polską.

Bronił praw polskiej mniejszości do posługiwania się swoim językiem. Po zakończeniu I wojny światowej zaangażował się w działalność związaną z plebiscytem na Górnym Śląsku, zachęcając ludzi, by głosowali za przyłączeniem tych ziem do Polski.

Po podziale Śląska w 1922 r. pozostał w jego zachodniej części, gdzie był współzałożycielem Polsko-Katolickiej Partii Ludowej. Z jej list zasiadał w latach 1928 -1932 jako jeden z trzech polskich posłów do sejmiku rejencji opolskiej.

Od 1930 r. przez 5 lat sprawował funkcję prezesa I Dzielnicy Związku Polaków w Niemczech. W 1931 r. zainicjował petycję do kanclerza Rzeszy Heinricha Brüninga w obronie praw polskich Ślązaków na Śląsku Opolskim.

Z racji działalności spotykały go szykany zarówno ze strony niemieckich władz, jak i nacjonalistów. Wielokrotnie napadano na jego mieszkanie. Za krytykę księży sprzyjających germanizacji niemieccy zwierzchnicy grozili mu odsunięciem od pracy duszpasterskiej.

W 1934 r. przeszedł na emeryturę i przeniósł się z Grabiny najpierw do Pilchowic, a później na stałe do rodzinnego Otmętu. Zmarł 8 grudnia 1938 r., jego pogrzeb był wielką manifestacją polskiej ludności.