OKM telah dibahagikan secara meluas kepada beberapa bahagian:
1) Stab des Oberkommando der Marine (M) - Staf Markas Besar Tentera Laut mengandungi:

• Pejabat Pertahanan Tentera Laut (Marinewehramt)(Mwehr)
• Pejabat Pentadbiran Tentera Laut (Marine-Verwaltungsamt)(C)
• Cawangan Propaganda Tentera Laut ((Abteilung fur Marinepropaganda)(M.Pr)
• Cawangan Belanjawan Tentera Laut (Marinehaushaltsabteilung)(E)
• Cawangan Kejuruteraan Kapal (Abteilung für Schiffsmaschinenbetrieb)(Ing.)
• Cawangan Perubatan Tentera Laut (Marine-Medizin-Abteilung)(G)
• Cawangan Sains Tentera (Kriegswissenschaftliche Abteilung)(KA)

2) Seekriegsleitung (SKL) - Markas Peperangan Laut telah ditubuhkan pada 1 April 1937. Pada asalnya berkait rapat dengan OBdM dan Marinekommandoamt, kerana Panglima Tertinggi (OBdM) juga Ketua SKL dan Ketua Marinekommandoamt juga sebagai Ketua Staf SKL. Semenjak 23 Ogos 1939 pejabat-pejabat tersebut telah berpecah dan Marinekommandoamt menjadi organisasi bawahan kepada SKL dengan Ketua dan stafnya sendiri. SKL memimpin perancangan dan pelaksanaan peperangan laut dan mengarah pembahagian angkatan-angkatan laut,tetapi semasa perang kuasanya dibataskan pada kawasan-kawasan laut yang bukan domestik,dan pada Februari 1943 apabila Donitz dilantik OBdM ia juga hilang kawalan keatas operasi-operasi U-bot. Pada Mei 1944 jawatan Ketua Staf SKL telah direka semula sebagai Ketua SKL (Chef der Seekriegsleitung). Jabatan tersebut kemudian ditugaskan mengarah unit-unit armada beroperasi sebagai kapal pengangkutan,kapal pengepungan,kruiser bantuan dan kapal bekalan. Jabatan ini setaraf dengan Staf Am Tentera Darat dan Staf Am Tentera Udara.

• Cawangan Operasi (Operationsabteilung)(1/SKL)
• Cawangan Perisikan Tentera Laut (Abteilung Marinenachrichtendienst)(2/SKL)
• Cawangan Pemerintahan Kapal Selam (Unterseebootsfuhrungsabteilung)(2/SKL B.d.U.op)

3) Marinekommandoamt (A) - Pejabat Pemerintahan Tentera Laut telah ditubuhkan bersama-sama OKM pada 11 Januari 1936,tetapi telah wujud lama dalam Marineleitung semenjak tahun 1920. Subordinat kepada OBdM,dari April 1937 Chef des Marinekommandoamt juga bertugas sebagai Ketua Staf SKL. Pada pertengahan tahun 1939 dua pejabat tersebut telah berpecah dan Marinekommandoamt menerima seorang Ketua baru yang menjadi pegawai bawahan kepada Ketua Staf SKL. Pada tahun 1942 pejabat tersebut juga dikenali sebagai Quartiermeisteramt (Pejabat Kuartermaster) dan dari 20 April 1943 jawatan Ketua digelar semula Admiralquartiermeister (Laksamana Kuartermaster). Pada 1 Mei 1944 pejabat tersebut secara rasminya direka semula sebagai Quartiermeisteramt. Selain daripada operasi-operasi laut Marinekommandoamt bertanggungjawab dalam keanggotaan,bekalan,risikan,latihan dan di pesisir pantai serta pertahanan udara.
4) Marinewaffenamt (W) - Pejabat Ordnans Tentera Laut telah ditubuhkan pada tahun 1934,dan telah dinamakan semula Marinewaffenhauptamt (Ibupejabat Ordnans Tentera Laut) pada tahun 1939,dan kepada Kriegsmarine-Rüstung (Persenjataan Tentera Laut) pada tahun 1944: ia menyelia pembangunan,ujian,pengeluaran senjata-senjata angkatan laut pelbagai jenis dan langkah balas elektronik serta komunikasi radio.
5) Allgemeine Marineamt (Allg) - Pejabat Perkhidmatan Am Tentera Laut telah diasaskan pada Januari 1936,dinamakan semula Allgemeine Marinehauptamt (AMA) (Ibupejabat Am Tentera Laut) pada November 1939,dan sekali lagi kepada Kriegsmarine-Wehr (Pertahanan Tentera Laut) pada tahun 1944: tugasnya lebih kepada hal ehwal pentadbiran; ia termasuk bahagian undang-undang,perubatan,ekonomi,pembinaan dan eksport.
6) Konstruktionamt (K) - Pejabat Pembinaan telah ditubuhkan pada tahun 1936,dinamakan semula Amt Kriegsschiffbau (Pejabat Pembinaan Kapal Perang) pada tahun 1939 dan kemudian kepada Hauptamt Kriegsschiffbau (Ibupejabat Pembinaan Kapal Perang) tetapi kembali semula ke jabatan sebelumnya pada tahun 1944. Fungsi-fungsinya ialah mengurus pembinaan kapal-kapal baru bagi tentera laut,berurusan dengan rekabentuk dan kejuruteraan kapal serta kapal selam,bekerja dengan pembekal dan limbungan serta berhubung dengan Kementerian Persenjataan dan Pengeluaran Perang.
7) Marinepersonalamt (MPA) - Pejabat Perkhidmatan Anggota Tentera Laut