Après avoir obtenu son diplôme de la Royal Academy of Music, Jones fait ses débuts professionnels en 1971 dans une production des Noces de Figaro au Welsh National Opera. Il interprète ensuite des rôles principaux dans plusieurs opéras, dont La Bohème, Tosca et Rigoletto.
Dans les années 1980, Jones a commencé à apparaître dans des productions de théâtre musical, notamment Les Misérables, Le Fantôme de l'Opéra et Sweeney Todd. Il est également apparu dans plusieurs films, dont The Great Escape (1963), Zulu (1964) et Clash of the Titans (1981).
En plus de son travail dans l'opéra et le théâtre musical, Jones a également mené une carrière réussie en tant que présentateur de télévision. Il a animé un certain nombre d'émissions, notamment The Alan Jones Show, Songs of Praise et The Voice UK.
Jones est marié à sa femme Anne depuis 1973. Ils ont trois enfants ensemble, dont l'acteur et chanteur Alexander Armstrong.
Jones a remporté de nombreux prix tout au long de sa carrière, notamment un Grammy Award, un Olivier Award et un Tony Award. Il a également été fait chevalier en 2003 pour ses services rendus à la musique et au théâtre.