Cawangan pertama Carrefour dibuka pada 3 Jun 1957, di kawasan pinggir bandar Annecy berdekatan satu persimpangan (carrefour dalam bahasa Perancis). Kini cawangan itu merupakan cawangan Carrefour terkecil di dunia. Kumpulan ini ditubuhkan oleh Marcel Fournier dan Denis Defforey yang mengembangkan syarikat mereka menjadi satu rangkaian besar. Pada tahun 1999 Carrefour bergabung dengan Promodès, salah sebuah pesaing terbesarnya dalam pasaran Perancis.

Fournier dan Defforey telah menghadiri sebilangan seminar di Amerika Syarikat yang dikendali oleh Bernardo Trujillo, tokoh yang turut mempengaruhi usahawan Perancis lain seperti Édouard Leclerc (E.Leclerc), Gérard Mulliez (Auchan), Paul Dubrule (Accor), dan Gérard Pélisson (Accor). Slogan mereka ialah "No parking, no business."

Kumpulan Carrefour mempelopori konsep pasar hiper, iaitu pasaraya besar dan gedung serbaneka di bawah sebumbung. Mereka membuka pasar hiper pertama pada 15 Jun 1963 di Sainte-Geneviève-des-Bois, berdekatan Paris di Perancis[3].

Pada bulan April 1976, Carrefour melancarkan label persendiriannya iaitu produk makanan Produits libres (produk bebas—libre bermaksud bebas), termasuk minyak, biskut, susu, dan pasta, pada harga yang rendah. Kelarisan jenama baru ini menyebabkan pengkritiknya berasa bahawa Carrefour sedang melemahkan kapitalisme dengan membiasakan orang ramai kepada makanan generik (sebagai lawan kepada jenama dan berkeistimewaan). Sacara terperincinya, Jean Mothes, seorang eksekutif di Perrier, menulis dalam majalah Investir bahawa Carrefour telah banyak mempercepatkan proses peralihan ke kerajaan pimpinan sosialis dan bukannya ahli politik dan penyokong sosialis seperti Edmond Maire, Georges Marchais, François Mitterrand dan Georges Séguy.