Kerja-kerja pembangunan pesawat ini bermula pada tahun 1980-an di bawah program FS-X, dan ia bermula dengan memeterai memorandom persefahaman (MoU) di antara kerajaan Jepun dan Amerika Syarikat. Ini akan melihat akan pembinaan pesawat baru berasaskan dari pesawat F-16 Fighting Falcon yang dikeluarkan oleh General Dynamics (selepas 1993, Lockheed Martin), lebih tepat lagi seperti cadangan F-16 Agile Falcon. Lockheed Martin dan Mitsubishi Heavy Industries secara bersama akan membangunkan dan mengeluarkan pesawat ini, yang mana merupakan sub-kontraktor utama kepada Mitsubishi, kebanyakkan kerja-kerja pembangunan awal dilakukan oleh General Dynamics, yang telah menjual bahagian pesawatnya kepada LM pada tahun 1993. Secara dasarnya, program ini akan melaksanakan cadangan untuk F-16 Agile Falcon - pada hujung 1980-an rancangan untuk membesarkan saiz pesawat F-16 telah ditolak di Amerika Syarikat sebagai laluan untuk pembangunan program pesawat pejuang baru iaitu F-35 JSF. Pesawat F-2 menggunakan reka bentuk sayap untuk pesawat F-16 Agile Falcon, dengan kebanyakkan sistem avioniknya telah ditingkatkan ke piawai tahun 1990-an. Konsep keseluruhan pesawat F-16 Agile Falcon oleh General Dynamics bertujuan untuk melawan ancaman bersama daripada pesawat Su-27/MiG-29.

Pada Oktober 1987, Jepun telah memilih pesawat F-16 sebagai asas untuk pesawat pejuang generasi keduanya, untuk menggantikan pesawat Mitsubishi F-1 yang telah uzur dan sebagai pelengkap kepada pesawat pejuang penguasaan udaranya, iaitu F-15J dan F-4EJ. Pada masa yang sama, juga pada tahun 1980-an, General Dynamics (pengeluar pesawat F-16) telah mencadangkan pesawat F-16 Agile Falcon kepada Tentera Udara Amerika Syarikat. Apabila Amerika Syarikat menolak konsep reka bentuk pesawat ini sebagai memberi laluan kepada pembangunan pesawat baru F-35 JSF dan tingkat upaya angkatan pesawat sedia ada, pesawat F-16 Agile Falcon telah mendapat tempat di Jepun.

Program F-2 telah menjadi kontroversi disebabkan kos seunitnya, termasuk kos pembangunan secara kasarnya 4 kali ganda lebih tinggi daripada kos perolehan pesawat F-16 Falcon Blok 50/52, yang mana tidak termasuk kos untuk pembangunan. Mengambil kira kos pembangunan telah memberi kesan kepada kenaikan kos seunit (perkara ini terjadi dalam kebanyakan pesawat tentera moden), walaupun pada tahap rancangan perolehan, harga seunit pesawat adalah agak tinggi. Rancangan awalnya adalah untuk perolehan sebanyak 141 buah pesawat F-2 mungkin akan dikurangkan. Sehingga tahun 2008, 94 buah pesawat akan diperoleh. Kontroversi lain adalah jumlah yang perlu dibayar kepada pihak Amerika Syarikat untuk pelbagai yuran pendaftaran, walaupun menggunakan teknologi yang sedia ada yang mana adalah lebih murah daripada membangunkan pesawat baru secara keseluruhan.

Jepun akhirnya memutuskan untuk memperoleh sehingga 94 buah pesawat, pada harga kira-kira AS$ 110 juta sebuah (pada 2004). Ironiknya, kos seunit ini sebenarnya adalah untuk pesawat F-16 yang dipertingkatkan dan ia hanya kurang AS$ 20 juta daripada kos untuk sebuah pesawat tercanggih masa kini iaitu pesawat F-22 Raptor. Kebanyakan teknologi pesawat F-16 yang digunakan untuk pesawat F-2 telah menjadi tajuk perdebatan politik di Amerika Syarikat dan Jepun pada awal 1990-an. Pemindahan teknologi bagaimanapun telah diluluskan dan projek ini dilaksanakan.

Pesawat F-2 telah membuat penerbangan sulong pada 7 Oktober, 1995. Pada tahun yang sama selepas itu, kerajaan Jepun telah meluluskan perolehan sebanyak 141 buah pesawat (tetapi kemudian dikurangkan kepada 130), yang akan memasuki perkhidmatan pada 1999; masalah struktur menyebabkan tarikh perkhidmatan ditunda sehingga 2000.

Disebabkan isu kecekapan kos, perolehan pesawat dikurangkan kepada 98 buah pada 2004.