Želeći da se pomeri iz Jalije ka Zereku, jevrejska zajednica je prikupljala sredstva kako bi izgradila novu sinagogu za početak. Mnogi Jevreji su darovali velike sume novca, a Mata Nahman Levi ostavio je testamentom svoju pokretnu i nepokretnu imovinu jevrejskoj opštini. Od te ostavštine kupljena su dva placa, jedan za sinagogu Bet Izrael, a drugi za zgradu Crkveno-školske jevrejske opštine.
U prisustvu zvaničnih izaslanika Ministarstva vera, opštine, grada i mnogih kulturnih jevrejskih ustanova, 5. juna 1927. osvećen je kamen temeljac Doma crkveno-školske jevrejske opštine. U temelje je uzidana povelja sa potpisima istaknutih članova sefardske opštine.
Zgrada Doma crkveno-školske jevrejske opštine izgrađena je prema projektu arhitekte Samuela Sumbula. Gradnja je zvanično počela 18. maja 1928, a u potpunosti je završena 27. septembra iste godine. Dom je osvećen 21. aprila 1929. U to vreme predsednik sefardske opštine bio je dr Solomon J. Alkalaj, a potpredsednik Šemaja Demajo. Kredit za gradnju uzet je kod Državne hipotekarne banke, dok je Ministarstvo šumarstva i rudarstva pomoglo izgradnju donacijom drveta.
Dom se sastojao iz dve zgrade – glavne, koja je izlazila na ulicu, i sporedne, koja je izlazila na dvorište ka sinagogi Bet Izrael. Zgrade su bile povezane velikom svečanom salom. U suterenu glavne zgrade nalazio se jedan stan za nadzornika i jedan za iznajmljivanje. Prizemlje zgrade koja je izlazila na dvorište bilo je rezervisano za reprezentativne svrhe – tu su bili kancelarija Saveza, rabinat, velika sala za sednice, čitaonica i Loža Bnei Brit.
Na prvom spratu bile su četiri učionice za veronauku. Na drugom spratu nalazili su se sala za Upravni odbor, blagajna i kancelarije za predsednika i sekretara sefardske opštine. Treći sprat bio je rezervisan za kulturno-obrazovna i humanitarna društva – Srpsko-jevrejsko pevačko društvo, Jevrejsko žensko društvo itd.
Dom crkveno-školske jevrejske zajednice bio je mesto i za sekularne aktivnosti; ovde su predavanja držali matematičar Mihailo Petrović Alas, geofizičar i astronom Milutin Milanković, biolog i lekar Ivan Đaja i drugi.
Godine 1959. otvoren je Jevrejski istorijski muzej u zgradi broj 71a (prva stalna postavka), a druga stalna postavka otvorena je 1969. u sadašnjem prostoru. U martu 1961. izvršena je nacionalizacija zgrade broj 71.
Danas se u delu zgrade u broju 71a nalaze prostorije Jevrejske opštine Beograd, a prostor koristi i Srpsko-jevrejsko pevačko društvo „Braća Baruh“.
Na prvom spratu nalaze se prostorije Jevrejskog istorijskog muzeja i Saveza jevrejskih opština Srbije.