Službeno otvorenje groblja bilo je 6. studenog 1876. godine.

Šezdesetih godina XIX. stoljeća gradska su groblja, prema pisanju tadašnjih novina, bila prenapučena i valjalo je pronaći i osmisliti prostor za novo gradsko groblje. Za usporedbu, u Zagrebu je u to doba (1876. godine) bilo 24.000 stanovnika i deset groblja, dakle, više od 2.000 stanovnika na jedno groblje - današnji Zagreb ima dvadeset i jedno groblje i mnogostruko više stanovnika. S tim u vezi očito je bio i dogovor tadašnje gradske vlasti (gradske općine) koja je još 1872. godine s Nadbiskupijom dogovorila zatvaranje groblja sv. Roka (današnji Rokov perivoj), sv. Tome i sv. Jurja. U istom dogovoru stoji da kapele sv. Roka i sv. Jurja "predaju svoju gotovinu od 17.318 forinta za kupnju novog zemljišta za novo skupno groblje, a za uzvrat se gradska općina obvezuje sagraditi na Mirogoju lijepu grobljansku kapelu". Na taj su se način stekli svi uvjeti za veliku dražbu imanja dr. Ljudevita Gaja zbog uređenja kojeg je dr. Gaj zapao u veliku dugove obnovivši o svome trošku ljetnikovac i sagradivši čak i pristupnu cestu koja vodi na Mirogoj. Iz spomenutih razloga do te je dražbe neminovno trebalo doći nakon Gajeve smrti (u travnju 1872. godine). Već 24. siječnja 1873. godine kupljeno je Gajevo imanje s namjerom preuređenja u centralno zagrebačko groblje. Taj bi se datum mogao smatrati danom osnutka zagrebačkog Mirogoja. Službeno otvorenje groblja bilo je tek 6. studenog 1876. godine.

Prema obećanju, gradska općina nije dirala Gajev perivoj, a na groblju su uza sve puteve zasađeni drvoredi lipa, javora, smreka, divljeg kestena i drugih stabala. Groblje je bilo predano na uporabu 1. studenog 1876. godine. Bilo je razdijeljeno po vjerama i na razrede (prvi, drugi i treći). U međuvremenu je bilo poprilično različitih reakcija koje su se pokazale posve neutemeljenima, jer Mirogoj nije niti neprikladan niti previše udaljen. Dapače, postao je jednim od najljepših groblja u zemlji. Prvog svog stanovnika novootvoreno groblje primilo je 7. studenog 1876. godine. Bio je to gospodin Friedrich Singer, nastavnik tjelovježbe i mačevanja, kojem je grad pripremio veličanstven sprovod.