Funkcjonowała ona kolejno pod nazwami: Armia Narodowa, Organizacja Wojskowa Stronnictwa Narodowego, Narodowe Oddziały Wojskowe, i ostatecznie od 1 lipca 1941 r. jako Narodowa Organizacja Wojskowa.

Miała ona stanowić przeciwwagę dla organizacji konspiracyjnych związanych z obozem rządowym i sanacją - Służby Zwycięstwu Polski i Związku Walki Zbrojnej. Zachowując odrębność w tej materii, uznawała jednocześnie zwierzchnictwo władz Rzeczypospolitej i Naczelnego Wodza na Uchodźstwie.

Nadzór nad NOW sprawował Wydział Wojskowy Zarządu Głównego SN, któremu podlegały sprawy polityczne, personalne i finansowe. W kwestiach stricte wojskowych, jak struktura organizacyjna, wywiad czy szkolenie, posiadała pełną autonomię.

Pierwszym komendantem NOW został gen. Marian Żegota-Januszajtis. Aresztowany przez NKWD pod koniec października 1939 r. we Lwowie, został zastąpiony przez por. Aleksandra Demidowicza-Demideckiego ps. „Aleksander”. Pod koniec 1939 r. doszło do kolejnej zmiany na stanowisku komendanta, którym został ppor. Bolesław Kozubowski ps. „Gruby”.

Komendę Główną podzielono na Wydziały: Organizacyjny, Wywiadowczy, Operacyjno-Wyszkoleniowy, Zaopatrzenia, Łączności, Służby Sanitarnej oraz Propagandy. Kapelanem NOW został ks. Jan Stępień ps. „Dr Jan”. Pismem organizacji była „Walka”, redagowana m.in. przez Stanisława Piaseckiego.

Rozpoczęto tworzenie struktur terenowych, szkolenie kadry konspiracyjnej i działania propagandowe ukierunkowane na konsolidację całego ruchu narodowego. Od połowy 1941 r. NOW dzieliła się na kilkanaście okręgów, te z kolei na podokręgi, powiaty, obwody i placówki.

W latach 1940-1941 r. doszło do pierwszych aresztowań członków Stronnictwa Narodowego, co uderzyło też w bieżącą działalność NOW. W ramach odbudowy struktur nowy prezes Zarządu Głównego SN Stefan Sacha powołał we wrześniu 1941 r. na stanowisko Komendanta Głównego NOW ppłk. Józefa Rokickiego ps. „Karol”.

W maju 1942 r. władze Stronnictwa przedstawiły dowódcy Armii Krajowej gen. Stefanowi Grot-Roweckiemu propozycję scalenia NOW z AK. Umowę scaleniową podpisano w sierpniu 1942 r., a kilka miesięcy później doszło do zaprzysiężenia części oddziałów.

Decyzja o scaleniu stała się przyczyną secesji części działaczy Stronnictwa i członków NOW, obawiających się utraty autonomii organizacji. W styczniu 1943 r. powołali oni nowy Zarząd Główny SN oraz Narodowe Siły Zbrojne, na których czele stanął były szef sztabu NOW - płk Ignacy Oziewicz.

W 1942 r. NOW liczyła według różnych źródeł od 80 do 100 tys. członków. Największe wpływy posiadała w Wielkopolsce, na Mazowszu, Lubelszczyźnie i Małopolsce. Do najwybitniejszych dowódców walczących w jej szeregach należeli Franciszek Przysiężniak ps. „Ojciec Jan” oraz Józef Zadzierski ps. „Wołyniak”.

W czasie powstania warszawskiego w ramach oddziałów Armii Krajowej walczyło ok.1,5 tys. żołnierzy NOW.

Jesienią 1944 r., po wkroczeniu Armii Czerwonej na ziemie polskie, z oddziałów NOW i NSZ wycofanych z likwidowanej AK utworzono Narodowe Zjednoczenie Wojskowe, którego celem była walka zbrojna o wyzwolenie Polski spod komunistycznej władzy.