Organisasi dalaman sebenar CMC sangat rahsia. Tetapi, sehingga tahun 2015 ia diketahui bahawa CMC terdiri daripada 5 jabatan utama. Jabatan Staf Bersama adalah pusat utama keseluruhan pemerintahan tentera China dan sistem kawalan, bertanggungjawab bagi tugas pentadbiran harian CMC. Pejabat Am memproses semua komunikasi dan dokumen CMC, menyelaras mesyuarat, dan menyampaikan perintah dan arahan kepada organ-organ subordinat yang lain.

Semasa pembaharuan tentera 2015, atas arahan Pengerusi Xi Jinping, 15 jabatan diwujudkan bagi menggantikan 5 institusi, yang dibubarkan. 15 jabatan tersebut adalah:[4]

1. Pejabat Am (办公厅)
2. Jabatan Staf Bersama (联合参谋部)
3. Jabatan Kerja Politik (政治工作部)
4. Jabatan Sokongan Logistik (后勤保障部)
5. Jabatan Pembangunan Kelengkapan (装备发展部)
6. Jabatan Latihan dan Pentadbiran (训练管理部)
7. Jabatan Kerahan Pertahanan Nasional (国防动员部)
8. Jawatankuasa Pemeriksaan Tatatertib (纪律检查委员会)
9. Jawatankuasa Hal Ehwal Politik dan Undang-Undang (政法委员会)
10. Jawatankuasa Sains dan Teknologi (科学技术委员会)
11. Pejabat Perancangan Strategik (战略规划办公室)
12. Pejabat Pembaharuan dan Struktur Organisasi (改革和编制办公室)
13. Pejabat Kerjasama Ketenteraan Antarabangsa (国际军事合作办公室)
14. Pejabat Audit (审计署)
15. Agensi bagi Pejabat Pentadbiran (机关事务管理总局)