L'histoire commence sur l'île grecque de Kalokairi, où Sophie Sheridan (Amanda Seyfried) se prépare à son mariage avec Sky (Dominic Cooper). Sophie a toujours été élevée par sa mère célibataire, Donna (Meryl Streep), et n'a jamais rencontré son père. Elle lit secrètement le journal de sa mère et découvre qu'elle a trois pères possibles :Sam Carmichael (Pierce Brosnan), Bill Anderson (Stellan Skarsgård) et Harry Bright (Colin Firth).
Déterminée à découvrir qui est son père, Sophie invite les trois hommes à son mariage sans le dire à Donna. Quand ils arrivent, Donna est choquée et bouleversée, mais elle accepte de les laisser rester pour le mariage. Au fur et à mesure du week-end, Sophie fait la connaissance de chacun des hommes et commence à se demander qui est son vrai père.
Pendant ce temps, Donna doit composer avec ses propres sentiments à propos du passé. Elle est toujours amoureuse de Sam, mais elle a aussi peur d'être blessée à nouveau. Elle se confie à ses deux meilleures amies, Rosie (Julie Walters) et Tanya (Christine Baranski).
A la veille du mariage, Sophie s'entretient à cœur ouvert avec chacun des trois hommes. Elle en apprend davantage sur leur passé et leurs relations avec Donna. Elle apprend également que chacun d’eux entretient un lien particulier avec elle.
Finalement, Sophie décide qu'elle n'a pas besoin de savoir qui est son père. Elle est heureuse de l'amour et du soutien de sa mère et de ses amis. Elle épouse Sky et ils vivent tous heureux pour toujours.