Urodził się w Zimnej Wodzie lub Rudnie pod Lwowem. Pochodził z rodziny szlacheckiej. Kształcił się we Lwowie i Wittenberdze (na uniwersytecie protestanckim), przebywał w Lipsku, a zapewne też w Bazylei i w Rzymie. Prawdopodobnie był protestantem i sympatyzował ze zwolennikami reformacji; głęboki kryzys ideowy sprawił, że przeszedł na katolicyzm. Życie Szarzyńskiego obfitowało w zagadki, których dziś już nie można rozwikłać. Po powrocie do kraju mówiono o nim jako o człowieku "dziwnym", przepełnionym chrześcijańśką pokorą, obojętnością na sprawy doczesne i pełnym żarliwego oczekiwania śmierci, pojmowanej jako wyzwolenie. Zmarł w roku 1581 w Wolicy pod Przemyślem.

         Życie Sępa przypadło na lata rozkwitu polskiego renesansu, jego twórczość znalazła się w cieniu poezji czarnoleskiej. Wiersze - nie wydane za życia - krążyły wśród przyjaciół i dopiero w dwadzieścia lat po śmierci Mikołaja jego brat Jakub wydał zachowane teksty. Skromny, liczący zaledwie pół setki utworów, tomik Rytmy abo wiersze polskie ukazał się we Lwowie w roku 1601. Paradoksalnie wydanie Rytmów wcale nie przyczyniło się do spopularyzowania poety. Pierwsza połowa XVII wieku to okres powolnego o nim zapominania. Szymon Starowolski w Votum o naprawie Rzeczypospolitej (1625), wymieniając poetów piszących po Janie Kochanowskim stawia Sępa w sąsiedztwie Gruszczyńskich i Bączalskich (autor Rytmów też występuje w liczbie mnogiej: "Sępiowie"), co było jednoznaczne i nie przynosiło zaszczytu. Potem Szarzyński niemal doszczętnie znika z horyzontu wydarzeń. Na początku XIX wieku nie znano ani jednego egzemplarza Rytmów, zaczęto nawet powątpiewać w istnienie takiego wydania! Jedyny zachowany egzemplarz książki odnaleziono w roku 1827. Losy twórczości poety, którego prawie cztery wieki po śmierci okrzyknięto prekursorem baroku w poezji polskiej, były niezwykłe i dramatyczne, o jego "istnieniu" zadecydował przypadek: jeden egzemplarz jednego tomu odnaleziony po przeszło dwustu latach!
         Skromniutki kanon tekstów został jeszcze uzupełniony o erotyki. W roku 1891 wybitny polonista Aleksander Brűckner w warszawskiej Bibliotece Ordynacji Zamojskich odnalazł rękopis z XVI w., w którym było m.in. pięć utworów Szarzyńskiego w otoczeniu dwudziestu jeden erotyków. Odkrywca uznał te utwory za młodzieńcze poezje Szarzyńskiego. Kwestia, czy rzeczywiście wyszły one spod ręki autora Rytmów jest nierozstrzygnięta do dziś. Tadeusz Sinka w rozprawie Problemy Sępowe z roku 1928 dowodził, że wiersze te są dziełem innego autora. Według niego Sęp miał wielką trudność w jasnym wyrażaniu swoich myśli, wielką nieporadność techniczną, natomiast erotyki stoją na innym, znacznie wyższym poziomie literackim.
         Renesans Szarzyńskiego i prawdziwy wybuch zainteresowania jego twórczością w Polsce, nastąpił dopiero w latach sześćdziedziątych XX wieku. Dzisiaj historycy literatury jednym głosem zaliczają Sępa do najwybitniejszych liryków literatury polskiej. Poezję jego określa się jako intelektualną, olśniewającą artystycznie, trudną do zakwalifikowania, nie mieszczącą się ani w kategoriach poetyki renesansowej, ani barokowej. Rzekomą nieporadność obalają współczesne opracowania, przedstawiające autora Rytmów jako poetę bardzo precyzyjnego, posługującego się językiem obliczonym na zadziwienie, zaskakującym czytelnika piętrzącymi się zawiłościami stylistycznymi. Warstwa językowa implikuje treść tej poezji; poezji pełnej lęków i niepokojów, pokazującej kruchego człowieka żyjącego w świecie rozdartym pomiędzy dobrem a złem.