Afrikakorps dibentuk atas perintah peribadi Hitler pada 11 Januari 1941. Hitler memilih Mejar Jeneral Erwin Rommel sabagai komander ketumbukan ini pada 12 Februari 1941. Rommel sendiri mendarat di tanah Afrika Libya pada 14 Februari 1941.

Markas Besar Angkatan Tentera Jerman (Oberkommando der Wehrmacht, OKW) memutuskan untuk menghantar sebuah "pasukan ekspedisi" (Sperrverband) ke Libya bagi membantu tentera Itali. Tentera Itali telah dikalahkan tentera British yang diterajui Tentera Darat Ke-8 British dalam Operasi Compass. Pasukan yang dipimpin Rommel pada mulanya hanya mengandungi Rejimen 5./leichte Panzer "Afrika", yang ditubuhkan daripada rejimen kedua Divisyen 3./Panzer dan pelbagai unit-unit kecil. Elemen-elemen ini diatur ke dalam Divisyen Ringan ke-5. Pasukan ini kemudiannya ditampung dengan unit-unit Divisyen Panzer ke-15 yang datang dari Itali, mahupun tidak kesemua unit divisyen ini sampai di Afrika sehinggalah Rommel menawan sebahagian besar Cyrenaica melalui serangan balas dan kemudiannya mengambil kedudukan pertahanan. Pada masa ini, Afrikakorps terdiri daripada dua divisyen dengan pasukan bantuan , dan secara rasminya diletakkan di bawah perintah tentera Itali; Rommel telah menjalankan operasinya tanpa keizinan rasmi pihak Itali.