Po otrząśnięciu się z pierwszego szoku przystąpiono do budowy konspiracyjnych struktur związku, które tworzyli bądź ocaleli z akcji „Jodła” działacze (do najbardziej znanych należeli Zbigniew Bujak, Władysław Frasyniuk, Władysław Hardek, Bogdan Lis czy Bogdan Borusewicz), bądź też osoby znajdujące się dotychczas w drugim szeregu. W styczniu 1982 roku powstała pierwsza (poza istniejącym tylko kilka dni Krajowym Komitetem Strajkowym) struktura centralna – Ogólnopolski Komitet Oporu, stworzony przez Eugeniusza Szumiejkę i Andrzeja Konarskiego. Udało się im nawiązać łączność pomiędzy głównymi tworzącymi się regionami podziemnego związku – Dolnym Śląskiem, Mazowszem, Małopolską i Pomorzem Gdańskim.
W tym samym czasie szeroko rozwijały się spontaniczne formy sprzeciwu wobec stanu wojennego. Popularnym symbolem stało się noszenie oporników wpiętych w ubranie, zapalanie świec w oknach na znak pamięci o uwięzionych, układanie w niektórych miastach krzyży z kwiatów itp. W Świdniku w lutym 1982 roku wynaleziono nową formę protestu – masowe „spacery” w porze nadawania Dziennika Telewizyjnego. Rozwijał się podziemny ruch wydawniczy – w 1982 r. ukazywały się już setki tytułów prasowych, wydano liczne książki. Pojawiły się inne formy niezależnej działalności kulturalnej. Trwały przygotowania do emisji podziemnych audycji radiowych. Pierwszą z nich nadano w Warszawie 1 kwietnia 1982 r. Wkrótce Radio Solidarność pojawiło się w wielu innych miastach. Nawiązano kontakty z zagranicą, w tym z powstałym w Brukseli Biurem Zagranicznym NSZZ „Solidarność”. Płynąca z Zachodu pomoc miała wielkie znaczenie dla podtrzymania zorganizowanego oporu.
W krzepnącym powoli podziemiu rozpoczynała się powoli dyskusja na temat form i sposobów walki z WRON. Największą popularność zyskały dwie koncepcje, określane zwykle mianem „długiego marszu” i „krótkiego spięcia”. Pierwsza z nich zakładała długotrwała walkę, opartą o budowę rozproszonego „społeczeństwa podziemnego”, które trudne będzie do pacyfikacji przez władze. Druga przeciwnie, opowiadała się za stworzeniem silnych, scentralizowanych struktur konspiracyjnych, gotowych w sprzyjającym momencie do przeprowadzenia strajku generalnego i skłonienia władzy do kompromisu lub wręcz jej obalenia.
Ofiarą zwycięstwa koncepcji „długiego marszu” (a także kilku własnych błędów) padł Ogólnopolski Komitet Oporu. Na jego miejsce 22 kwietnia 1982 roku Bujak, Hardek, Frasyniuk i Lis powołali Tymczasową Komisję Koordynacyjną NSZZ „Solidarność”, do której zaprosili również Szumiejkę. TKK prowadziła umiarkowaną politykę, starając się skłonić władze do ugody i odwołania stanu wojennego.
Na tym tle dochodziło do dalszej polaryzacji stanowisk w podziemiu, najwyraźniej widocznej we Wrocławiu. W czerwcu 1982 roku Kornel Morawiecki opuścił dolnośląski Regionalny Komitet Strajkowy i utworzył nową, radykalną organizację – „Solidarność Walczącą”, wzywającą do otwartej walki z systemem. Sygnałem, iż także część społeczeństwa oczekuje bardziej zdecydowanych niż dotychczas form oporu były spontaniczne manifestacje, do jakich doszło w wielu miastach 1 i 3 maja 1982 roku.
TKK tymczasem wystosowała skierowany do władz apel o podjęcie dialogu, określany mianem „5 razy tak”. Jego zdecydowane odrzucenie przez partyjne kierownictwo spowodowało, iż wydano kolejne oświadczenie, tym razem zatytułowane „5 razy nie”, i wezwano społeczeństwo do masowych demonstracji w drugą rocznicę podpisania porozumień sierpniowych.
31 sierpnia 1982 roku manifestacje odbyły się w 66 miastach Polski, uczestniczyły w nich dziesiątki tysięcy ludzi. Dochodziło do wielogodzinnych starć z ZOMO i wojskiem, wznoszono barykady. W Lubinie doszło do tragedii – na skutek użycia broni palnej zginęły trzy osoby. W innych miastach padło dalszych 5 ofiar śmiertelnych. Demonstracje ukazały z jednej strony wciąż spory potencjał oporu, z drugiej jednak nie wystarczał on, aby skłonić władze do ustępstw.
Swoiste poczucie siły skłoniło władze do ostatecznego rozwiązania kwestii dalszego istnienia NSZZ „Solidarność”. Od 13 grudnia Związek, aczkolwiek zawieszony, wciąż formalnie istniał. W pierwszych miesiącach stanu wojennego rozważano nawet stworzenie „socjalistycznej Solidarności”, pomysł ten jednak z czasem zarzucono, czekając na dogodny moment do likwidacji Związku. Nadszedł on 8 października, kiedy to Sejm przyjął nową ustawę o związkach zawodowych, jednocześnie rozwiązując wszystkie dotychczasowe struktury związkowe, w tym przede wszystkim NSZZ „Solidarność”. W odpowiedzi wybuchły spontaniczne protesty – strajki i demonstracje uliczne. Osłabiona aresztowaniem Frasyniuka (5 października) TKK nie była w stanie zareagować odpowiednio szybko i protesty spacyfikowano. Dopiero po kilku dniach TKK wezwała do strajku generalnego w drugą rocznicę rejestracji NSZZ „Solidarność” – 10 listopada 1982 roku. Długi okres czasu pozwolił władzy dobrze przygotować się; stosując zarówno umiejętną propagandę, jak i represje zapobieżono szerszej skali protestu. Strajk generalny zakończył się klęską podziemia, pracę przerwano w nielicznych zakładach, w kilku miastach doszło do manifestacji.
Mimo iż po zniesieniu stanu wojennego działalność opozycyjna stopniowo słabła, „Solidarność” przetrwała w podziemiu do 1989 roku. Obok niej powstawały dziesiątki mniejszych i większych konspiracyjnych grup młodzieżowych, partii politycznych, ruchów społecznych itp.