Ramai orang datang ke pulau Greek, Kalokairi, khususnya ke resort hotel desa dikenali sebagai Villa Donna, dimiliki dan dikendalikan oleh ibu tunggal Donna Sheridan, untuk perkahwinan anak perempuannya yang berusia dua puluh tahun, Sophie dengan teman lelakinya, Sky. Tiga daripada orang-orang yang datang ke majlis perkahwinan tetapi Donna tidak tahu yang datang adalah arkitek Sam Carmichael, jurubank Harry Bright dan kelasi Bill Andersson, tiada daripada mereka yang Donna pernah melihat dalam tempoh lebih dua puluh tahun. Tidak diketahui olehnya, Sophie menjemput ketiga-tiga itu kerana dia mengumpul maklumat dengan rahsianya membaca diari Donna, mengetahui bahawa ketiga-tiga lelaki itu terlibat dalam kehidupan ibunya apabila dia telah mengandung dan dengan itu mengandaikan bahawa salah seorang daripada mereka mesti bapanya. Dia mahu lelaki itu berjalan dengannya di lorong dan melepaskannya. Dengan bantuan daripada pengiring pengantinnya, Lisa dan Ali, Sophie cuba untuk memikirkan yang mana satu adalah bapanya. Apabila Donna melihat ketiga-tiga lelaki itu, dia, dengan bantuan kawan baiknya dan bekas rakan kongsi nyanyian, Rosie Mulligan dan Tanya Wilkinson, juga cuba untuk mencari tahu apa yang dia akan lakukan dengan ketiga-tiga lelaki ini. Sementara itu, lelaki-lelaki ini, yang tidak mengenali satu sama lain sebelum tiba di pulau itu, dengan cepatnya mengandaikan sebab kenapa mereka dijemput, masing-masing percaya bahawa dia memang bapa Sophie. Sebagai komplikasi terjadi akibat salah faham, perkahwinan Sophie dan Sky hubungan boleh terjejas, manakala mencari apa yang benar-benar di dalam hati mereka, ramai mungkin mendapati perjalanan cinta sejati.