Urodził się 4 lutego 1867 r. pod nazwiskiem Jasiński w Trzemesznie na Kujawach w zaborze pruskim. Był synem Władysława Jakińskiego, dziennikarza, wydawcy i działacza polonijnego, który po wyemigrowaniu w 1868 r. do USA zmienił nazwisko na Smulski. Władysław założył tu drukarnię i wydawnictwo, wydawał „Gazetę Katolicką” oraz dziennik „Kurier Chicagowski”.

W 1881 r. jako 14-latek Jan wyjechał w ślad za ojcem do Stanów i przyjął jego zmienione nazwisko. Jednocześnie podjął studia prawnicze na Uniwersytecie Northwestern, po których ukończeniu został adwokatem.

Od najmłodszych lat działał w organizacjach polonijnych. Należał do Związku Narodowego Polskiego, największej i jednej z najstarszych organizacji polonijnych w Stanach Zjednoczonych. Udzielał się też w Zjednoczeniu Polskim Rzymsko-Katolickim oraz w Związku Sokolstwa Polskiego. Był związany z endecją, od 1896 r. należał do Ligi Narodowej.

W 1897 r., po śmierci ojca, objął zarządzanie wydawnictwem Smulski Publishing Company. Rok później, z ramienia Partii Republikańskiej, do której należał, został wybrany do Rady Miejskiej miasta Chicago, gdzie kilkukrotnie zapewnił sobie reelekcję.

W 1903 r. uzyskał licencję na prowadzenie bankowej. Dwa lata później wraz z innymi działaczami polonijnymi założył w Chicago Northwest Trust and Savings Bank zwany popularnie bankiem Smulskiego. Było to pierwsze tego typu przedsięwzięcie polonijne. Jego zarząd i większość personelu miały być polskie, zaś akcje rozprowadzone pomiędzy Polakami.

Bank przynosił dochody m.in. dzięki udzielaniu pożyczek komercyjnych oraz na zakup nieruchomości. Dzięki tym zyskom Jan Smulski został pierwszym Polakiem-milionerem w historii Chicago. Smulski utworzył też spółkę górniczą do eksploatacji złota nad rzeką Sacramento w Kalifornii.

Po wybuchu I wojny światowej był współzałożycielem Polskiego Centralnego Komitetu Pomocowego (Polish Central Relief Committee). Współorganizował pomoc materialną dla ludności polskiej. W tym celu ściśle współpracował Ignacym Paderewskim. Jako delegat Polonii został przyjęty w Waszyngtonie przez prezydenta Woodrowa Wilsona i wręczył mu memoriał o potrzebie pomocy dla Polski.

W 1916 r. utworzył Wydział Narodowy Polski - strukturę polityczną reprezentującą największe i najbardziej znaczące organizacje polonijne i wyznaniowe w USA - i stanął na czele jego komitetu wykonawczego. WNP zebrał fundusze na pomoc polskim ofiarom wojennym oraz pomógł zorganizować Armię Polską, która walczyła w Europie na froncie zachodnim, a następnie w Polsce.

Dzięki jego staraniom w 1919 r. Polonia wsparła polską akcję na Górnym Śląsku, zarówno finansowo, jak i poprzez ułatwienie wyjazdu z USA Polakom, chcącym wziąć udział w plebiscycie. W 1921 r. zaangażował się w sprawę poparcia powstania na Śląsku.

W 1923 r. zrezygnował ze stanowiska prezesa WNP i skoncentrował się na zarządzaniu swym bankiem. Załamany psychicznie chorobą serca i serią poważnych operacji chirurgicznych 18 marca 1928 r. popełnił samobójstwo. Spoczął na cmentarzu św. Wojciecha w Chicago.

Za działalność na rzecz Polski Jan Smulski został odznaczony Krzyżem Komandorskim Orderu Odrodzenia Polski oraz francuskim Orderem Legii Honorowej.