Muzułmański Cmentarz Kaukaski jest starszym z dwóch (drugi to Muzułmański Cmentarz Tatarski) istniejących w Warszawie cmentarzy muzułmańskich. Jest położony pomiędzy cmentarzami: żydowskim i ewangelicko-augsburskim. Powstał na gruntach zakupionych w 1830 roku za 2152 ruble od warszawskiej parafii ewangelicko-augsburskiej. Został założony w latach 1838−1839. Przy bramie znajdował się niewielki dom, zajmowany przez dozorcę cmentarnego.

Nekropolia była użytkowana do 1867. Chowano na niej żołnierzy wyznania muzułmańskiego z wojska rosyjskiego oraz przyjezdnych kupców i mieszkańców Warszawy. Cmentarz zamknięto po 30 latach użytkowania.