Artiste de vaudeville depuis son plus jeune âge, Howard avait joué dans plusieurs courts métrages muets avant de faire équipe avec son frère aîné Shemp Howard et son ami Larry Fine en 1922 pour former les Trois Stooges. En 1934, l'équipe fut signée par Columbia Pictures, où elle acquit une renommée internationale pour ses routines comiques burlesques.
Howard est apparu dans presque tous les 190 courts métrages et 23 longs métrages des Trois Stooges, ainsi que dans de nombreuses apparitions à la télévision et autres projets. Il était de facto le leader et l'homme hétéro du groupe, et ses lunettes de marque étaient un élément essentiel de la personnalité de son personnage.
En dehors des Trois Stooges, Howard a eu une brève carrière solo dans les années 1940 et au début des années 1950, au cours de laquelle il a joué dans plusieurs courts métrages et longs métrages. Il a également fait plusieurs apparitions dans des émissions de télévision, notamment en tant que guest star dans I Love Lucy.
En 1955, Howard retrouva Shemp et Fine pour les dernières années des Trois Stooges à Columbia Pictures, et ils continuèrent à se produire ensemble jusqu'à la mort de Shemp en 1955. Howard et Fine continuèrent à se produire en duo jusqu'à la fin des années 1960, lorsque leurs performances devinrent moins fréquent en raison de problèmes de santé et d’une popularité décroissante.
Howard est décédé d'un cancer du poumon en 1975 à l'âge de 77 ans. Il est considéré comme l'un des comédiens les plus emblématiques de tous les temps et est reconnu, avec Shemp and Fine, comme l'une des équipes comiques les plus influentes de l'histoire.