Das Joel Rubin Ensemble wurde 1994 in Berlin gegründet. Die erste Gruppe widmete sich der Aufführung des klassischen osteuropäischen jüdischen Instrumental-Klezmer-Repertoires des ausgehenden 19. und frühen 20. Jahrhunderts. Es entstand aus Rubins Arbeit mit seinen früheren Bands Brave Old World (1989-1992) und Rubin & Horowitz (1992-1994). Die Musik des Ensembles ist ein Ausdruck der langjährigen Meditation Rubins über das russisch-jüdische musikalische Erbe. Es ist jedoch kein Versuch, die Aufführungspraxis des 19. Jahrhunderts wiederherzustellen oder auf andere Weise auf den Topos des Lebens im jüdischen Schtetl zu hören; Vielmehr bringt die Gruppe einige der großen improvisierenden Musiker der Welt zusammen, um zu erkunden, wie jüdische Musik zu Beginn des 21. Jahrhunderts klingen könnte - Musik aus einer anderen Zeit und von einem anderen Ort, die jedoch gründlich in der Gegenwart verankert ist. Die Band kreiert ein eigenes Klanguniversum, voller Tiefe, Virtuosität, Verspieltheit und Introspektion. Die kaleidoskopische Klanglandschaft filtert die vielen historischen Schichten traditioneller jüdischer Musik durch die Linsen der vielfältigen musikalischen Hintergründe der Bandmitglieder, von Klassik über Gypsy über Free Jazz bis zu zeitgenössischer Kunstmusik. Hier verschmilzt das Zusammenspiel eines großen improvisierenden Jazz-Ensembles mit der Delikatesse einer Kammermusikgruppe und dem Drang einer heißen Hochzeitsband an der Spitze von Klezmer, Roma (Gypsy) und anderen osteuropäischen Traditionen.

​

Die Band tritt in unterschiedlichen Kombinationen von zwei bis acht Musikern auf. Zu den Mitgliedern der Band zählten unter anderem der ungarische Rom-Cimbalom-Virtuose Kálmán Balogh, der italienische Akkordeonzauberer Claudio Jacomucci, die Klezmer-Geiger Steve Greenman, Mark Kovnatskiy und David Chernyavsky sowie die Violinisten Sándor Budai, László Major und Anastasia Chernyavsky der Jazz-Komponist Ferenc Kovács, der Bassist Csaba Novák, der amerikanische Klezmer-Erwecker Pete Rushefsky über Tsimbl, der Posaunist Ryan Zawel und der Monster-improvisierende Cellist Hank Roberts. Die Band zieht Mitglieder aus den USA, Russland, Ungarn, Italien und Deutschland an und kombiniert die Fähigkeiten jüdischer, rumänischer und nichtjüdischer Künstler. Sie bildet eine ästhetische Brücke zwischen der multikulturellen Tradition der urbanen Wende. Jahrhundert osteuropäischen jüdischen Orchestern und der heutigen postmodernen Landschaft.

Zu den Auftritten gehörten die Berliner Philharmoniker, das Concertgebouw in Amsterdam, das Beethoven-Haus in Bonn, die Cité de la Musique in Paris, die Tonhalle in Zürich, das Muziekcentrum Vredenburg in Utrecht (Niederlande), der Frankfurter Hof, der Burghof Lörrach, der Symphony Space und John Zorns The Stone in New York, das Institute of Musical Traditions in Washington DC, das Internationale Klezmer Festival in Fürth und das Internationale Festival der Kirchenmusik in Fribourg in der Schweiz. Die landesweite Live-Übertragung des Ensembles "Beregovskis Khasene" im DeutschlandRadio (Nov. 1996) war eine der erfolgreichsten Konzertsendungen der jüngsten Vergangenheit, die diese auszeitlose und dennoch sehr moderne Musik erstmals einem breiten Publikum zugänglich machte.