Aunque ha cambiado varias veces de localización a lo largo de los años, acabó convirtiéndose en la mayor representación del judaísmo en España.
Técnicamente no es el primer templo dedicado al judaísmo en Madrid, pues ya existió uno oficial que se inauguró en diciembre de 1968, coincidiendo además con la anulación oficial de la expulsión de los judíos de España, que fue llevada a cabo por los Reyes Católicos en 1492.
Desde la expulsión de los judíos en nuestro país, su presencia en él no volvió a hacerse de notar hasta principios del siglo XX, cuando volvían a huir de la persecución a la que fueron sometidos en Europa Occidental. Tres años antes de que la Comunidad Judía de la Madrid se constituyera de forma oficial (en 1917), se estableció en Madrid la primera sinagoga bajo el nombre de Midrás Abarbanel. Aunque en esa ocasión tampoco lograron asentarse durante mucho tiempo, pues en 1938 cerró el espacio dedicado a sus oraciones debido al inicio del periodo franquista.
Durante los primeros diez años de Dictadura la forma de vida judía (a nivel público) desapareció casi por completo hasta 1949, año en el que se volvió a abrir un templo para rendir culto, el Oratorio Lawenda. En esta ocasión, la comunidad judía si pudo permanecer en la capital, algo que se noto de forma exponencial en los años 60 debido a las migraciones del antiguo protectorado español de Marruecos y Tánger. Este aumento de la población judía en nuestra ciudad llevo a que en 1964 se crease el Consejo de Comunidades Israelitas de España (incluyendo la capital). Un año después, abrió el primer colegio sefardí de Madrid, el Ibn Gabiron, cuyas puertas siguen abiertas a día de hoy.
Sin embargo, la comunidad judía tuvo que esperar hasta 1968 para poder contar con una sinagoga oficial, de hecho, la única de la capital: Bet Yaacov, situada en el la calle Balmes, en el barrio de Chamberí. Desde entonces, el centro es, junto con la Comunidad Judía de Madrid, uno de los mayores puntos de encuentro para las personas que procesan esta fe en nuestro país. El centro ha acogido a personalidades públicas del mundo de la cultura y la política, como los anteriores reyes de España o Camilo José Cela.