Orang Assyria dan Babylon menggunakan selut sebagai simen dalam konkrit mereka. Mesir Purba menggunakan simen batu kapur dan gipsum. Semasa Empayar Rom, konkrit dihasilkan dengan menggunakan campuran quicklime, abu pozzolanic / pozzolana dan aggregate yang diperbuat daripada pumice yang menyerupai konkrit simen Portland moden. Pada tahun 1756, Seorang jurutera British, John Smeaton mengasaskan penggunaan simen Portland dalam konkrit, menggunakan batu kelikir dan serbuk bata sebagai aggregate. Pada masa kini penggunaan bahan dikitar sebagai bahan konkrit semakin popular kerana undang-undang alam sekitar yang semakin ketat. Yang paling menonjol diantaranya adalah abu terbang (fly ash), keluaran sampingan kilang janakuasa arang batu. Ini memberi kesan besar dengan mengurangkan jumlah kuari dan tempat pembuangan sampah yang diperlukan.

Ciri-ciri konkrit telah diubah semenjak zaman Rom dan Mesir, apabila ia didapati menambah abu gunung berapi kepada campuran membenarkannya mengeras di bawah air. Sama juga, orang-orang Rom mengetahui bahawa menambah bulu kuda menjadikan konkrit kurang mengucup semasa mengeras, dan menambah darah menjadikannya tahan fros. Pada masa kini penyelidik telah menambah bahan lain bagi mencipta konkrit yang amat kuat, ringan, malah konkrit yang mampu mengalirkan eletrik.