Desmond est né à San Francisco, en Californie, et a commencé à jouer de la clarinette à l'âge de 13 ans. Il est passé au saxophone au lycée et a joué dans plusieurs groupes avant de rejoindre le quatuor de Brubeck en 1951.
Avec le Brubeck Quartet, Desmond a enregistré certains des albums de jazz les plus populaires et les plus réussis des années 1950 et 1960, dont "Time Out" (1959), qui présentait la composition de Desmond "Take Five".
Desmond quitte le Brubeck Quartet en 1967 et enregistre plusieurs albums en tant que leader avant sa mort en 1977.
Desmond était connu pour son style de jeu cool et discret, souvent comparé à celui de Stan Getz. Il était également un compositeur doué et a écrit plusieurs des chansons les plus populaires du Quatuor Brubeck, notamment "Take Five", "Blue Rondo a la Turk" et "Unsquare Dance".
Desmond a été intronisé au Down Beat Jazz Hall of Fame en 1991.