Sekolah Kebangsaan Ampang telah ditubuhkan pada tahun 1971, dengan satu blok bangunan setingkat yang kini dikenali sebagai blok A, dan mempunyai 16 orang guru yang dipimpin oleh Encik Baharuddin bin Mat Lon sebagai Guru Besar Sekolah Kebangsaan Ampang yang pertama[1]. Seramai 250 murid mula mendaftar pada ketika itu. SK Ampang telah dirasmikan pada dua tahun berikutnya iaitu pada 16 September 1973 oleh Yang Berhormat Dato Mohammad bin Yakob, Menteri Pelajaran Malaysia ketika itu.

SK Ampang, yang merupakan sekolah yang pertama di Ampang, membina bangunan tambahan untuk bilangan murid yang bertambah selari dengan pertambahan populasi penduduk setempat pada ketika itu. Selain itu, Persatuan Ibubapa dan Guru (PIBG) ditubuhkan pada 1974.