KL Gangster 2 mengisahkan tentang bagaimana 2 orang adik-beradik iaitu Malek (Aaron Aziz) dan Jai (Ady Putra) secara tidak langsung terjebak dalam dunia gangster setelah kematian ayah mereka 10 tahun lalu.Semenjak kematian ayah mereka, kehidupan mereka sekeluarga dalam serba kesusahan di samping ibu (Ku Faridah) mereka sering ketakutan gara-gara ugutan dari kumpulan gangster yang menagih hutang ayah mereka.Disebabkan kesempitan wang dan keperitan hidup maka Jai menjadi semakin liar hingga sanggup melakukan apa saja demi wang bagi mengubah nasib hidupnya dan mendapat tentangan hebat dari keluarganya.

Malek semakin buntu memikirkan masalah yang dihadapi dan ditambah pula dengan laporan dari doktor yang mengesahkan ibunya mengidap penyakit barah. Sementara itu, Tailong (Datuk Rosyam Nor) merupakan antara gangster terbesar di KL yang giat menjalankan kegiatan-kegiatan haram.Segala tindak tanduk Tailong tidak disenangi oleh gangster-gangster lain namun terpaksa akur dengan kekuatan Tailong. Pada masa yang sama, King (Ridzuan Hashim) dan Shark (Syamsul Yusof) merancang untuk memperkukuhkan kedudukan bagi menjatuhkan Tailong dan meminta pertolongan dari rakan baiknya iaitu Malek dengan menawarkan ganjaran yang besar.

Malek menerima tawaran tersebut bagi menampung kos ibunya dan membayar hutang ayahnya. Namun kegiatannya tidak disenangi oleh ibunya dan dia dan Jai dihalau dari rumah. King menjadi lebih berkuasa atas bantuan Malek dan kehadirannya membuatkan Tailong berasa tergugat. Dia merancang untuk menghapuskan King dan Malek. Terjadi pertempuran hebat antara dua kumpulan gangster terbesar di KL apabila Tailong menyerang King dan Malek. Mereka hampir tumpas ditangan Tailong namun terselamat apabila polis tiba dan berjaya melepaskan diri. Pada masa yang sama, Malek ternampak “tattoo” yang sama di badan Tailong dan pembunuh ayahnya. Bermulanya konflik dan dendam antara Malek dan Tailong.

Apabila Tailong mendapat tahu Jai ialah adik Malek, dia menculik Zeti (Sheera Iskandar) dan memperkosanya di hadapan Jai. Jai tidak mampu berbuat apa-apa kerana orang-orang Tailong terlalu ramai. Malek pula mendapati ibunya cedera parah akibat dipukul orang Tailong. Dia tidak sempat ke sarang Tailong untuk menyelamatkan adik-adiknya kerana terpaksa bergegas ke hospital dengan ibunya. Tailong akhirnya memanggil Malek ke kawasan pelabuhan sekiranya dia ingin selamatkan adik-adiknya dalam pertembungan terakhir.

Dengan bantuan Shark, Ajib (Soffi Jikan) dan orang-orang mereka, Malek berjaya melenyapkan seluruh geng Tailong. Dia dan Jai akhirnya bersama-sama berjaya menumpaskan Tailong lalu menyerahkannya kepada Shark untuk ditembak mati. Mereka kemudian bergegas ke hospital untuk membayar bil hospital supaya ibu mereka boleh dibedah. Zeti dan ibu mereka enggan memaafkan Malek dan Jai kerana memusnahkan kebahagiaan keluarga mereka. Jai pula berdegil untuk terus kekal dalam dunia jenayah demi mencari wang. Malek pula diberkas polis setelah dianiaya oleh gengnya sendiri. Ketika dibawa ke balai, Malek berdoa pada Tuhan supaya keluarganya selamat sementara dia dipenjarakan.

Pada masa yang sama, Tailong telah mati. Dengan pemergian Tailong, Shark kini menjadi ketua bagi satu-satunya geng terkuat di KL. Shark juga telah merancang untuk memenjarakan Malek. Seterusnya berpusing balik ke KL Gangster 1