Connery est né à Édimbourg, en Écosse, en 1930. Son père était ouvrier d'usine et sa mère était femme de ménage. Connery a quitté l'école à l'âge de 13 ans et a commencé à travailler comme laitier. Il rejoint ensuite la Royal Navy, où il sert pendant trois ans.
La carrière d'acteur de Connery a commencé au début des années 1950, lorsqu'il est apparu dans plusieurs petits rôles dans des films britanniques. Sa grande percée a eu lieu en 1962, lorsqu'il a été choisi pour incarner James Bond dans le film Dr. No. Le film a été un énorme succès et Connery est rapidement devenu l'un des acteurs les plus populaires au monde.
Connery a continué à jouer James Bond dans six autres films, dont From Russia with Love (1963), Goldfinger (1964), Thunderball (1965), You Only Live Twice (1967), Diamonds Are Forever (1971) et Never Say Never Again. (1983). Il a également joué dans un certain nombre d'autres films à succès au cours des années 1960 et 1970, notamment La Grande Évasion (1963), Le Meurtre de l'Orient Express (1974) et L'Homme qui voulait être roi (1975).
Dans les années 1980, la carrière de Connery commence à décliner. Il a joué dans un certain nombre de films mal reçus, notamment Outland (1981), Never Say Never Again (1983) et The League of Extraordinary Gentlemen (2003). Cependant, il a reçu des critiques élogieuses pour ses rôles dans Les Incorruptibles (1987), Indiana Jones et la Dernière Croisade (1989) et The Rock (1996).
Connery a pris sa retraite du métier d'acteur en 2006. Il a reçu de nombreux prix pour son travail, dont un Oscar, deux BAFTA Awards et trois Golden Globe Awards. Il a également été fait chevalier par la reine Elizabeth II en 2000.