Свою першу назву «Ювілейна» синагога отримала на честь 50-ліття вступу імператора Франца Йосипа І на престол. Але більш розповсюджена назва «Єрусалимська» - відповідно назві вулиці, на якій вона стоїть. Будівля зведена у 1906 році за проектом віденського архітектора Вільгельма Щасного, автора багатьох проектів синагог в Австро-Угорщині.
Стиль будівлі можна охарактеризувати як еклектичний – тут можна виділити риси модерну і мавританського стилю. Фасад прикрашений масивною аркою з вікном у вигляді розетки з зіркою Давида і надписом на івриті «Це врата Господа, через які входять праведники». Фасад завершується фронтоном з двома вежами і плитами з десятьма заповідями. У вересні 1941 року синагога була закрита і використовувалась для зберігання майна, конфіскованого окупаційною владою у євреїв.