Olsson est né à Wallasey, Cheshire, Angleterre. Il a commencé à jouer de la batterie à l'âge de 12 ans et a joué dans plusieurs groupes locaux avant de rejoindre le groupe de John en 1970. Depuis, il a joué sur tous les albums studio de John et a également fait de nombreuses tournées avec lui.
En plus de son travail avec John, Olsson a également joué de la batterie pour d'autres artistes, dont George Harrison, Ringo Starr et Stevie Wonder. Il a également sorti deux albums solo, « Nigel Olsson » (1975) et « Move the Universe » (1980).
Olsson est considéré comme l'un des meilleurs batteurs de rock and roll. Il est connu pour son chronométrage solide, sa batterie puissante et sa capacité à se fondre dans les autres instruments du groupe. Il a été intronisé au Modern Drummer Hall of Fame et au Rock and Roll Hall of Fame.