Haacke est né à Allentown, en Pennsylvanie, le 15 novembre 1936. Il a d'abord étudié le dessin et la peinture à la Cooper Union de New York, où il a été étudiant de 1955 à 1957. Il a poursuivi ses études d'art à la Tyler School of Art de Temple University de Philadelphie de 1957 à 1959, où il se spécialise en design graphique. Après l'université, Haacke s'est enrôlé dans l'armée américaine, où il a servi comme illustrateur graphique de 1959 à 1961.
Après son service, Haacke est retourné à New York et a commencé à travailler comme designer commercial indépendant. En 1962, il réalise sa première exposition personnelle à la Tanager Gallery de New York. Haacke fut l'un des premiers artistes conceptuels et, en 1963, commença une série d'installations de sculptures conceptuelles incluant des objets du quotidien et les manipulant dans de nouveaux contextes. La pièce Condensation Cube de 1965-1966 comprenait une boîte en verre avec un bloc de glace suspendu au centre. Le concept de Haacke était que le cube se condenserait lentement, créant de l'eau qui formerait des flaques d'eau autour de la base.
Haacke a élargi ses installations pour inclure une plus grande variété de matériaux trouvés et fabriqués, ainsi qu'une documentation photographique et vidéo de ses processus de travail. En 1969, il collabore avec Hans Haacke sur la pièce Shapolsky et al. Manhattan Real Estate Holdings, un système social en temps réel, à compter du 1er mai 1971, une installation qui utilisait les annonces immobilières du New York Times pour examiner les modèles de propriété immobilière à Manhattan. L’œuvre a été installée au Musée juif de New York, où elle a suscité la controverse en raison de sa critique implicite de la concentration de la propriété immobilière entre des individus et des institutions fortunés.
Au début des années 1970, le travail de Haacke devient de plus en plus politique. Il a créé plusieurs œuvres qui examinent les relations entre l'art, le monde de l'art et la société, notamment l'œuvre MoMA Poll de 1971, dans laquelle il interrogeait les visiteurs du Museum of Modern Art (MoMA) de New York sur leurs opinions sur le musée et sa collection. En 1972, Haacke crée la pièce Sol LeWitt :Sentences on Conceptual Art, qui consiste en une série de panneaux de texte reproduisant une interview que Haacke avait menée avec l'artiste Sol LeWitt.
Le travail de Haacke est resté politique et il a continué à examiner les questions de pouvoir social et politique, de consumérisme et de destruction de l'environnement. Ces dernières années, il a créé des œuvres qui explorent les relations entre l'art, la science et la technologie, ainsi que l'utilisation des technologies de surveillance dans la société.
Le travail de Haacke a été exposé dans de nombreuses galeries et musées à travers le monde et il a reçu de nombreux prix et distinctions pour son travail, notamment une bourse Guggenheim en 1972, une subvention du National Endowment for the Arts en 1976 et une bourse MacArthur en 1985. Il est considéré comme l’un des artistes conceptuels les plus importants de sa génération.