Syarikat ini diasaskan pada 5 Jun 1874 oleh Johann Philipp Schifferdecker, di Heidelberg, Baden-Württemberg, Jerman. Ia telah menghasilkan 80,000 tan simen Portland setahun pada tahun 1896. Ia memperoleh banyak syarikat kecil lain dari tahun 1914 dan seterusnya, pada tahun 1936, ia membuat satu juta tan setahun.

Aktiviti luar negara bermula dengan pengambilalihan sebahagian Vicat Cement, Perancis. Pengiriman mencapai 8.3 juta tan pada tahun 1972. Pada tahun 1977, program pembelian besar-besaran di Amerika Utara bermula dengan pemerolehan Lehigh Cement. Pada tahun 1990, perkembangan di Eropah Timur bermula.

Pada tahun 1993, ia memperoleh sebahagian daripada SA Cimenteries CBR dari Belgium, yang sudah mempunyai operasi multinasional utama. Sejak itu ia terus berkembang, dengan membeli sepenuhnya daripada CBR, dan pembelian di Eropah Timur dan Asia. Langkah utama adalah pengambilalihan Scancem pada tahun 1999, dengan operasi di Eropah Utara serta Afrika. Indocement di Indonesia dimasukkan pada tahun 2001.

Pada bulan Mei 2007, syarikat British Hanson telah memperoleh satu transaksi bernilai £ 7.85 bilion (AS $ 15.8 bilion), yang memberikan syarikat itu kedudukan pasaran yang lebih kukuh di United Kingdom dan Amerika Syarikat, dan menjadikan HeidelbergCement sebagai pengeluar agregat terkemuka di dunia .

HeidelbergCement mempunyai 29 buah semen dan tumbuhan pengilangan di Eropah Barat dan Utara, 19 di Eropah Timur dan Asia Tengah, 16 buah tumbuhan simen di Amerika Utara, 14 di Afrika dan Lembangan Mediterranean. Syarikat itu menjual Maxit Group dan 35% bahagiannya di Vicat Cement untuk membantu membiayai pengambilalihan Hanson plc pada bulan Ogos 2007. Di kebanyakan negara Eropah Kumpulan, HeidelbergCement adalah peneraju pasaran dalam perniagaan simen.

Adolf Merckle adalah pelabur besar di HeidelbergCement.[3] Peningkatan modal di HeidelbergCement pada bulan September 2009, digabungkan dengan penjualan saham dari keluarga Merckle, dibuka untuk pemilik antarabangsa yang lain dan jumlah dagangan yang lebih tinggi di bursa saham. Pada Ogos 2006, HeidelbergCement AG memasuki pasaran simen India dengan pengambilalihan Mysore Cement.[4]

Pada 1 Julai 2016, HeidelbergCement AG menyelesaikan pengambilalihan 45% pegangan saham dalam Italcementi S.p.A. Dengan pengambilalihan, HeidelbergCement menjadi pengeluar nombor 1 agregat, nombor 2 dalam simen dan nombor 3 dalam konkrit campuran siap di seluruh dunia. Syarikat itu bersetuju untuk menjual asetnya di Amerika Syarikat untuk $ 660 juta kepada Cementos Argos untuk memenuhi keperluan anti kepercayaan untuk pengambilalihanr.[5]

HeidelbergCement memasuki pasaran penting baru, seperti Perancis dan Itali di Eropah, Mesir dan Maghribi di Afrika Utara dan Thailand di Asia Tenggara. Di Kanada, India dan Kazakhstan, pengambilalihan itu akan mengukuhkan lagi kehadiran pasaran HeidelbergCement yang sedia ada. Kumpulan yang diperbesar ini mempunyai aktiviti di sekitar enam puluh negara, dengan 60,000 pekerja bekerja di 3,000 tapak pengeluaran. HeidelbergCement mengoperasikan 139 kilang simen dengan kapasiti simen tahunan sebanyak 176 juta tan, lebih daripada 1,500 tapak pengeluaran konkrit campuran siap, dan lebih daripada 600 agregat kuari.