Adiknya Siti Hasmah Mohamad Ali, isteri kepada Tun Dr Mahathir bin Mohamad, Perdana Menteri Malaysia yang keempat dan ketujuh. Abangnya, Tun Ismail Mohd Ali adalah bekas Gabenor Bank Negara manakala seorang adik Tan Sri Mohamed Hashim bin Mohd Ali - bekas Panglima Angkatan Tentera Malaysia dan juga mempunyai seorang lagi adik, iaitu Datuk Jaffar Mohd Ali juga orang penting di Malaysia dan seorang lagi kakak Datin Saleha Mohd Ali.[1]

Isterinya dua orang iaitu Puan Sri Zaleha Abd. Kadir dan Puan Sri Wan Mah Rejab dan mereka mempunyai 8 anak. Salah seorang anaknya ialah Ahmad Razlan.

Menantu Ahmad Razali iaitu Datuk Noorazman Adnan berhutang sebanyak RM 354,707.95 iaitu jumlah yang diputuskan oleh Mahkamah Sesyen Putrajaya pada 28 April 2010. Pada 4 November 2011, Presiden Mahkamah Rayuan, Tan Sri Md. Raus Sharif mengekalkan perintah Mahkamah Tinggi agar dia membayar ganti rugi RM 150,000 kepada rakan kongsinya (Mohd Fazzrul Amri Abdul Aziz) kerana didapati memungkiri perjanjian.[2]