Sousa est né à Washington, D.C. en 1854. Il a commencé à étudier la musique dès son plus jeune âge et a fait preuve d'un grand talent. Il rejoint le United States Marine Band en 1872 et gravit rapidement les échelons. En 1880, il était le chef d'orchestre du groupe.
Sousa a dirigé le Marine Band pendant 35 ans, période pendant laquelle il a composé plusieurs de ses marches les plus célèbres, notamment « The Stars and Stripes Forever » et « Semper Fidelis ». Il a également écrit plusieurs opérettes et autres œuvres.
Sousa a pris sa retraite du Marine Band en 1929, mais il a continué à composer de la musique jusqu'à sa mort en 1932. Sa musique est toujours interprétée par des groupes et des orchestres du monde entier et il est considéré comme l'un des plus grands chefs d'orchestre de tous les temps.