Wilson est né le 23 juin 1947 dans la réserve indienne Sioux dans le Dakota du Sud. Il était le fils d'une femme Sioux de sang pur et d'un père irlandais. Wilson a grandi dans la réserve et a commencé à jouer de la guitare dès son plus jeune âge. Il a été influencé par la musique traditionnelle de son peuple, ainsi que par le rock and roll des années 1950 et 1960.
Après le lycée, Wilson a déménagé à Minneapolis, Minnesota. où il a formé un groupe appelé Sugarloaf avec son beau-frère Craig Fuller et son collègue auteur-compositeur-interprète Michael Omartian.
Le groupe connaît un certain succès et enregistre deux albums pour RCA Records, avant de se séparer en 1971.
Suite à la rupture de Sugarloaf , Wilson a déménagé à Los Angeles, en Californie, où il a formé la Pure Prairie League. en 1972.
Le groupe a rapidement gagné en popularité et a sorti un certain nombre d'albums à succès tout au long des années 1970.
Certaines de leurs chansons les plus populaires incluent " Amie" , "Anges déchus" , et " Laisse-moi t'aimer ce soir ".
En 1979, Wilson quitte la Pure Prairie League pour se lancer dans une carrière solo.
Il a sorti deux albums solo, " Jeff Wilson" (1981) et "Ne soyez jamais pareil" (1983), mais ils n'ont pas eu autant de succès que son travail avec la Pure Prairie League.
Wilson a continué à tourner et à se produire tout au long des années 1980 et 1990, mais sa santé a commencé à se détériorer à la fin des années 1980. On lui a diagnostiqué un cancer de la gorge et il a subi plusieurs cycles de traitement.
Le 12 décembre 1991, Jeff Wilson est décédé d'un cancer de la gorge à l'âge de 44 ans .
Il laisse dans le deuil sa femme, ses deux filles et ses deux fils.