Un petit groupe de Juifs babyloniens est resté à Babylone après la conquête perse et a ensuite joué un rôle important dans le développement de la culture et de la religion juives pendant la période du Second Temple. Le Talmud babylonien, l’un des textes les plus importants de la loi juive, fut compilé à Babylone à cette époque.
Au 7ème siècle après JC, Babylone fut conquise par les Arabes musulmans et devint partie intégrante du monde islamique. La ville continue de décliner et au Xe siècle, elle est en grande partie abandonnée. Aujourd’hui, les ruines de Babylone se trouvent près de la ville d’Hillah, dans l’actuel Irak.