Syn Jana i Michaliny z Woynów w wieku 14 lat zamieszkał w Jeżewie koło Tykocina,

w XVIII-wiecznym dworze w nowo nabytym przez jego ojca majątku. Kształcił się w Warszawie, gdzie w latach 1858-1863 uczęszczał do szkoły Jana Nepomucena

Leszczyńskiego, a w roku 1867 ukończył Szkołę Główną. Pierwsze prace etnograficzne podjął już w 1867 r. Później odbywał wędrówki etnograficzne i archeologiczne po ziemiach Polski i Litwy W 1868 r. rozpoczął studia na Uniwersytecie Jagiellońskim z zakresu historii i archeologii. Na jego późniejsze prace duży wpływ miał spotkany wówczas w Krakowie Oskar Kolberg.

Swoje liczne zbiory gromadził w domu rządcy browarnego i murowanym lamusie w Jeżewie. Gloger utrzymywał kontakty z wieloma ówczesnymi uczonymi i propagatorami nowych teorii. Na jego dworze gościli również wielcy literaci jak Henryk Sienkiewicz kolega z Szkoły Głównej czy Eliza Orzeszkowa. Pod koniec życia w 1906 zamieszkał w Warszawie. Po śmierci został pochowany na warszawskich Powązkach w kwaterze nr 52. Na jego grobie wyryto napis: "Kochał przeszłość dla przyszłości". Swoje zbiory zapisał w testamencie Polskiemu Towarzystwu Krajoznawczemu, którego był jednym z założycieli i pierwszym prezesem, Towarzystwu Etnograficznemu, i Towarzystwu Bibliotek Publicznych w Warszawie oraz Muzeum Przemysłu i Rolnictwa. Do dnia dzisiejszego w Tykocińskim muzeum organizowane są wystawy prezentujące zbiory Glogera. Od 1983 w Łomży organizuje się konkurs im. Zygmunta Glogera. W konkursie przyznawane są nagrody i medal za szczególne osiągnięcia w badaniu ochronie i rozwoju kultury.

Dziełem jego życia była Encyklopedia staropolska  ilustrowana (1900-1903), która jest cennym przewodnikiem po kulturze staropolskiej.