Landon est né Eugène Maurice Orowitz à Forest Hills, New York. Son père, Eli Maurice Orowitz, était un fabricant de vêtements juif et sa mère, Peggy O'Neill, était une actrice et danseuse catholique. Landon avait quatre frères et sœurs :David, Robert, Tom et Cheryl.
Landon a commencé à jouer à l'âge de 14 ans, apparaissant dans plusieurs productions de Broadway. Il a signé avec Warner Bros. en 1956 et a fait ses débuts au cinéma dans le film _God Is My Partner_ (1957). Il a ensuite joué dans plusieurs autres films, dont _Marjorie Morningstar_ (1958), _The Legend of Tom Dooley_ (1959) et _The Longest Day_ (1962).
En 1959, Landon fut choisi pour incarner Little Joe Cartwright dans la série télévisée NBC Western _Bonanza_. La série a été un énorme succès et a duré 14 saisons, faisant de Landon un nom bien connu. Après la fin de Bonanza en 1973, Landon a joué dans plusieurs films et séries télévisées, dont La petite maison dans la prairie (1974-1983), Highway to Heaven (1984-1989) et Us (1991). .
Landon était également un réalisateur et producteur à succès. Il a réalisé un certain nombre d'épisodes de _Bonanza_ et _Little House on the Prairie_, ainsi que plusieurs téléfilms. Il a également produit plusieurs séries télévisées, dont _The Love Boat_ (1977-1987), _Highway to Heaven_ et _Us_.
Landon est décédé d'un cancer du pancréas le 1er juillet 1991, à l'âge de 54 ans. Il laisse dans le deuil son épouse, Cindy Landon, et neuf enfants :Mark, Josh, Jason, Michael, Shawna, Christopher, Cheryl, Erin et Kelly.