Asal-usul bagi IRBM adalah roket A4b bersayap untuk penambahan jarak dan berasaskan roket V-2 (Vergeltung, atau "Pembalasan", secara rasmi dipanggil A4) yang terkenal direka oleh Wernher von Braun digunakan secara meluas oleh Jerman Nazi pada penghujung Perang Dunia II untuk mengebom bandaraya England dan Belgium. A4b adalah prototaip bagi peringkat atas roket A9/A10. Matlamat program ini adalah membina sebuah misil yang mampu mengebom New York apabila dilancarkan dari Perancis atau Sepanyol (lihat Pengebom Amerika). Roket A4b telah di uji beberapa kali pada bulan Disember 1944, Januari dan Februari 1945.[7] Kesemua roket ini menggunakan bahan api cecair. A4b menggunakan sistem pemanduan inersia, manakala A9 akan dikawal oleh juruterbang. Ia bermula dari pad pelancar tidak bergerak.

Selepas Perang Dunia II von Braun dan saintis utama Nazi yang lain secara rahsia dipindahkan ke Amerika Syarikat untuk bekerja secara langsung dengan Tentera Darat A.S. menerusi Operasi Paperclip yang membangunkan V-2 menjadi senjata Amerika Syarikat.