Rhinocerotoids berpisah dari perissodactyls lain pada awal tempoh Eocene. Fosil Hyrachyus eximus dijumpai di Amerika Utara bertarikh pada tempoh ini. Leluhur badak tanpa sumbu menyerupai tenuk atau kuda kecil berbanding badak sumbu. Tia keluarga, kadang kala dikumpulkan bersama sebagai keluarga besar Rhinocerotoidea, berevolusi pada akhir Eocene: Hyracodontidae, Amynodontidae dan Rhinocerotidae.

Hyracodontidae, juga dikenali sebagai "badak berlari," menunjukkan adaptasi bagi kepantasan, dan akan kelihatan lebih menyerupai kuda berbanding badak sumbu moden. Hyracodontids terkecil bersaiz anjing; sementara yang terbesar merupakan Indricotherium, dipercayai salah satu haiwan mamalia daratan terbesar pernah wujud. Indricotherium tak bertanduk hampir setinggi tujuh meter, sepanjang sepuluh meter, dengan berat sehingga 15 tan. Sebagaimana zirafah, ia makan daun pokok. Hyracodontids tersebar sepanjang Eurasia dari tempoh pertengahan-Eocene hingga awal Miocene.

Keluarga Amynodontidae, juga dikenali sebagai "badak sumbu air," tersebar sepanjang Amerika Utara dan Eurasia, dari akhir Eocene hingga awal Oligocene. Amynodontids menyerupai badak air dari segi ekologi dan rupanya, mendiami sungai dan tasik, dan berkongsi banyak adaptasi yang sama bagi kehidupan di air sebagaimana Badak Air.

Keluarga bagi semua badak sumbu moden, Rhinocerotidae, mula muncul pada Akhir Eocene di Eurasia. Ahli terawal bagi Rhinocerotidae adalah kecil dan banyak; sekurang-kurangnya 26 genera hidup di Eurasia dan Amerika Utara sehingga gelombang kepupusan pada pertengahan Oligocene menghapuskan kebanyakan spesies lebh kecil. Bagaimanapun, beberapa susur galur bebas masih tinggal. Menoceras, badak sumbu bersaiz babi yang memiliki tanduk melintang kiri dan kanan atau Teleoceras dari Amerika Utara yang memiliki kaki pendek dan dada lebar dan hidup sehingga sekitar 5 juta tahun dahulu. Badak sumbu terakhir di Amerika pupus pada tempoh pliocene.

Badak Sumbu moden dipercayai tersebar dari Asia pada permulaan Miocene. Dua spesies yang terselamat tempoh glasiar terakhir dan mendiami Europah sehingga 10,000 tahun dahulu. Badak Sumbu Berbulu muncul di China sekitar 1 juta tahun dahulu dan mula tiba di Europah sekitar 600,000 dahulu, di mana bersama Mamoth Berbulu, mereka membiak tetapi akhirnya diburu sehingga pupus oleh manusia awal. Satu lagu spesies badak sumbu besar, Elasmotherium, terselamat zaman air batu terakhir. Juga dikenali sebagai Badak Sumbu Rhinoceros, Elasmotherium berdiri setinggi dua meter, lima meter panjang dan seberat sekitar lima tan, dengan satu tanduk gergasi, didi hypsodont dan kaki panjang bagi berlari pantas.

Antara spesies badak sumbu, Badak Kerbau adalah yang paling tua, pertama kali muncul 15 juta tahun dahulu. Badak Kerbau berkait rapat dengan badak Sumbu Berbulu, tetapi tidak dengan spesies moden lain. Badak Sumbu India dan Badak Raya adalah berkait rapat dan berasal dari susur galur badak sumbu asia yang lebih kini. Leluhur awal badak sumbu India dan badak raya muncul sekitar 2-4 juta tahun dahulu.[11]

Asal badak sumbu Afrika yang masih ada dijejak kembali hingga spesies Ceratotherium neumayri akhir Miocene (6 mya). Leluhur mengandungi spesies yang berpisah sejak awal Pliocene (1.5 mya), apabila Diceros praecox, leluhur paling mungkin bagi Badak Sumbu Hitam, muncul dalam rekod fosil.[12] Badak Sumbu Hitam dan Badak Sumbu Putih kekal berkait rapat sehingga keduanya masih boleh mengawan dan menghasilkan anak.[3]

• Family Rhinocerotidae[13]
  • Subfamily Rhinocerotinae
    • Tribe Aceratheriini
      • †Aceratherium
      • †Acerorhinus
      • †Alicornops
      • †Aphelops
      • †Chilotheridium
      • †Chilotherium
      • †Dromoceratherium
      • †Floridaceras
      • †Hoploaceratherium
      • †Mesaceratherium
      • †Peraceras
      • †Plesiaceratherium
      • †Proaceratherium
      • †Sinorhinus
      • †Subchilotherium
    • Tribe Teleoceratini
      • †Aprotodon
      • †Brachydiceratherium
      • †Brachypodella
      • †Brachypotherium
      • †Diaceratherium
      • †Prosantorhinus
      • †Shennongtherium
      • †Teleoceras
    • Tribe Rhinocerotini
      • †Gaindatherium
      • Rhinoceros - Badak Sumbu India & Badak Raya
    • Tribe Dicerorhinini
      • †Coelodonta - Badak Sumbu Berbulu
      • Dicerorhinus - Badak Kerbau
      • †Dihoplus
      • †Lartetotherium
      • †Stephanorhinus
    • Tribe Dicerotini
      • Ceratotherium - Badak Sumbu Putih
      • Diceros - Badak Sumbu Hitam
      • †Paradiceros
  • Subfamily Elasmotheriinae
    • †Gulfoceras
    • Tribe Diceratheriini
      • †Diceratherium
      • †Subhyracodon
    • Tribe Elasmotheriini
      • †Bugtirhinus
      • †Caementodon
      • †Elasmotherium - Badak Sumbu Gergasi
      • †Hispanotherium
      • †Huaqingtherium
      • †Iranotherium
      • †Kenyatherium
      • †Meninatherium
      • †Menoceras
      • †Ougandatherium
      • †Parelasmotherium
      • †Procoelodonta
      • †Sinotherium