4 grudnia 1939 roku gen. Sosnkowski wydał instrukcję powołującą do życia Związek Walki Zbrojnej, który był organizacją ogólnonarodową nastawioną na organizowanie się Polaków do podjęcia w przyszłości walki zbrojnej z okupantami. Związek miał mieć charakter czysto militarny. Na czele stał komendant, gen. K. Sosnkowski, przebywający początkowo we Francji, któremu podlegali gen. Stefan Rowecki-Grot i gen. Michał Tokarzewski-Karaszewicz. 24 lutego 1940 roku na mocy porozumienia Michała Tokarzewskiego-Karaszewicza, Stefana Roweckiego-Grota i polityków: Kazimierza Pużaka, Aleksandra Dębskiego oraz Stefana Korbońskiego powstał Polityczny Komitet Porozumiewawczy przy ZWZ jako jego polityczny organ doradczy. W terenie powstały analogiczne komitety podległe od lipca 1940 roku przemianowanemu Głównemu Komitetowi Politycznemu, do którego obok przedstawicieli już wymienionych stronnictw wszedł jeszcze polityk ze Stronnictwa Pracy.
Połowa 1940 roku przyniosła reorganizację władz podziemnych. W czerwcu gen. Rowecki został mianowany zastępcą Komendanta Głównego ZWZ, a następnie stanął na czele powołanej do życia Komendy Głównej ZWZ. W grudniu tego samego roku Cyryl Ratajski stanął na czele Delegatury Rządu na Kraj – utworzono sieć delegatur okręgowych, która objęła wszystkie ziemie polskie. Od kwietnia 1941 roku Ratajski zaczął tworzyć aparat Delegatury, który powielał strukturę i funkcje władz centralnych Polski przedwojennej. Na ziemiach polskich rozwijały się liczne organizacje tajne, konspiracyjne reprezentujące różne środowiska polityczne. Prawie wszystkie z nich miały własne oddziały zbrojne. Część z nich weszła w skład, bądź podporządkowała się Komendantowi Głównemu ZWZ lub Delegatowi Rządu, część prowadziła własną działalność konspiracyjną. Zgodnie z zaleceniami władz naczelnych zarówno Komenda główna jak i Delegatura prowadziły zakrojoną na szeroką skalę działalność konspiracyjną, mającą na celu odpowiednie przygotowanie się do podjęcia w przyszłości działań zbrojnych – gromadzono broń, zapasy żywności, organizowano kadry dowódcze, organizowano życie Polaków pod okupacjami tworząc konspiracyjne państwo polskie. Organizacja Małego Sabotażu „Wawer” jako część Szarych Szeregów pod kierunkiem Aleksandra Kamińskiego prowadziła akcję ośmieszania okupanta, co miało duże znaczenie propagandowe. Rozpoczęcie wojny radziecko-niemieckiej, które doprowadziło ZSRR do obozu aliantów, spowodowało nawiązanie w lipcu 1941 roku polsko-radzieckich stosunków dyplomatycznych (układ Sikorski-Majski).
We wrześniu 1942 roku Cyryl Ratajski ustąpił ze stanowiska Delegata Rządu na Kraj, a jego następcą został Jan Piekałkiewicz a następnie od 1943 roku Jan Stanisław Jankowski. Lata 1941-1943 to rozwój organizacyjny Delegatury Rządu. Powstały nowe departamenty, które w konspiracji zastępowały prace polskich ministerstw, rozbudowana została sieć lokalnych delegatur w terenie.
14 lutego 1942 roku Związek Walki Zbrojnej przemianowano na Armię Krajową z komendantem głównym Ge. Stefanem Roweckim-Grotem. Zadaniem AK było łączenie organizacyjne różnych formacji zbrojnych polskiego podziemia. Organizacyjnie AK była podzielona na obszary, okręgi i obwody. Armia Krajowa była najliczniejszą armią podziemną w czasie II wojny światowej. W 1943 roku stan liczebny wynosił ok. 200 tys. żołnierzy. Celem było prowadzenie przygotowań do podjęcia walki z Niemcami w chwili załamania się okupanta ale również samoobrona społeczeństwa polskiego. Powstrzymywano się od aktywnej walki z okupantem, obawiając się akcji odwetowych hitlerowców wymierzonych w ludność cywilną. Nie udało się scalić wszystkich polskich formacji zbrojnych. Bataliony Chłopskie zachowały w ramach AK autonomię, jedynie część sił zbrojnych przyłączyła się do AK, reszta utworzyła Narodowe Siły Zbrojne.
Obok wojskowego podziemia od grudnia 1942 roku działało Kierownictwo Walki Cywilnej, na czele którego stał Stefan Korboński. Celem organizacji było propagowanie i egzekwowanie w społeczeństwie polskim metod walki cywilnej, zorganizowanie sieci radiostacji słuchanych przez Polaków. Polacy czynnie wspierali Żydów. Wobec zorganizowanego systemu eksterminacji ludności żydowskiej dowódcy Komendy Głównej AK weszli w kontakt z Żydowską Organizacją Bojową. W grudniu 1942 roku z inicjatywy władz podziemnych powstała Rada Pomocy Żydom (Żegota), w ramach której Polacy udzielali Żydom wszechstronnej pomocy. W 2 połowie 1942 roku wobec powstania Polskiej Partii Robotniczej i związanej z nią Gwardii Ludowej, szermujących hasłami natychmiastowej walki z okupantem, polskie podziemie niepodległościowe podjęło bardziej aktywne działania. Działający od jesieni 1942 roku Kedyw (Kierownictwo Dywersji) z płk. Emilem Fieldorfem-Nilem podjął szeroką akcję dywersyjną i propagandową wśród Niemców. Zaczęto także przeprowadzać konkretne akcje i rozbudowywać zaplecze partyzanckie.
30 czerwca 1943 roku został aresztowany przez gestapo gen. Stefan Rowecki-Grot, komendant główny AK. Następcą mianowany został gen. Tadeusz Komorowski-Bór. Trwał rozwój liczebny szeregów AK osiągając w 1944 roku stan ok. 300 tys. żołnierzy. Trwał również dalszy rozwój partyzantki AK szczególnie w Kieleckiem, Lubelskiem, Krakowskiem i na Wileńszczyźnie. 5 lipca 1943 roku na mocy decyzji Delegata Rządu i Komendanta Głównego AK, doszło do połączenia Kierownictwa Walki Cywilnej z Kierownictwem Walki Konspiracyjnej i powstało Kierownictwo Walki Podziemnej koordynujące działania polskiego podziemia niepodległościowego wobec okupanta niemieckiego i coraz bardziej agresywnych działań partyzantki radzieckiej i Polaków podziemia lewicowego działającego z inspiracji ZSRR.
