Hřbitov malé židovské obce v někdejším poddanském městečku fungoval zřejmě od 17. do první poloviny 20. století. Postupně byl dvakrát rozšířen, vstupy do starších částí byly zazděny, z kolem vedoucí cesty viditelné.
Židovská komunita je v
Rabštejně doložena od 17. století, nelze vyloučit její větší stáří. Nejstarší (východní) část hřbitova je tedy více než
300 let stará. Prostřední byla podle nápisu nad zazděným portálem zřízena v letech 1786–87, nejnovější byla připojena koncem 19. století. Na obě starší části hřbitova byly vzhledem k nedostatku místa zřejmě navezeny nové vrstvy hlíny k dalším pohřbům (oba vstupní portály jsou z hřbitovní strany zavezeny).
Dochovalo se přibližně
50 náhrobků, nejstarší z 18. století. Poslední pohřeb byl proveden roku 1934, kdy už hřbitov sloužil obci v
Žihli.