Der erste jüdische Friedhof Münchens wurde 1816 mit Erlaubnis Königs Maximilians I. Joseph an der Thalkirchner Straße angelegt. In der Folgezeit fanden hier über 5.000 Tote ihre letzte Ruhestätte. Die heutige Backsteinmauer mit dem schmiedeeisernen Eingangstor entstand im Zuge der dritten Erweiterung des Friedhofs 1881. Die einfache Trauerhalle, in der seit der Gründung des Friedhofs die Totenfeierlichkeiten stattfanden, wurde 1882 durch einen größeren Neubau ersetzt. Im Jahre 1861, mit Abschaffung des Matrikelparagraphen, der den Zuzug von Juden nach Bayern streng reguliert hatte, vergrößerte sich die jüdische Gemeinde in München stark. 1904 erwarb die Israelitische Kultusgemeinde ein Gelände im Norden der Stadt und errichtete an der heutigen Garchinger Straße den Neuen Israelitischen Friedhof. Seit dessen Eröffnung im Jahr 1908 finden auf dem alten Friedhof nur noch Beerdigungen in bereits existierende Familiengräber statt.

1942 schloss die Gestapo den Alten Israelitischen Friedhof. Das Gelände musste die Israelitische Kultusgemeinde an den „Beauftragten des Gauleiters für Arisierung“ verkaufen. Zwar wurde der Kaufvertrag im Oktober 1942 rückgängig gemacht, dennoch hatten die Nationalsozialisten zwischenzeitlich sämtliche Metallteile von den Gräbern abmontieren und zahlreiche Grabsteine abtragen lassen, um sie für christliche Friedhöfe umzuarbeiten. Auf einem Teil des Geländes richtete sich eine gewerbliche Gärtnerei ein. Einige der entwendeten Grabsteine konnten nach dem Krieg wiedergefunden und an ihren ursprünglichen Platz zurückgebracht werden. Noch heute sind an manchen Grabsteinen farbige Markierungen zu erkennen, die auf den vorgesehenen Abtransport verweisen. Auch einige der gestohlenen Metallteile konnten dank der Aufmerksamkeit der damaligen Friedhofsverwalterin Lina Angermeier, die trotz wiederholter Einschüchterungsversuche der Gestapo ihr Amt nicht aufgab, wiedergefunden und wieder an ihrem alten Platz angebracht werden.

Auch nach dem Ende der NS-Herrschaft blieb die Totenruhe auf dem Friedhof nicht ungestört. 1950 wurden circa 50 Kupfer- und Bronzegrabplatten gestohlen, 1966, 1971 und 1980 wiederholt Gräber und Grabsteine zerstört. Bei der schwersten Schändung im Jahre 1980 warfen Jugendliche insgesamt 270 Grabsteine um. Der Alte Israelitische Friedhof ist nicht öffentlich zugänglich.