Madrasah Aliyah Negeri (MAN) 3 Palembang yang sebelumnya adalah sebuah lembaga pendidikan kejuruan bidang keguruan Agama khusus Islam, yaitu Pendidikan Guru Agama Negeri (PGAN 4 dan 6 tahun) di bawah naungan Departemen Agama.
Sejak tahun 1991, PGAN dialih fungsikan menjadi Madrasah Aliyah Negeri 3 Palembang. Namun belum secara resmi diberlakukan karena belum memiliki kekuatan hukum yang jelas. Baru pada tahun 1992 berdasarkan Surat
Keputusan Menteri Agama RI No. 42 tahun 1992 tertanggal 27 Januari 1992 PGAN Palembang resmi diubah menjadi MAN 3 Palembang. Surat keputusan ini menjadi dasar pengelolaan MAN 3 Palembang sebagai Madrasah yang mengelola pendidikan yang disesuaikan dengan kebutuhan pembangunan pada masa itu.
Pada tahun 1997 berdasarkan Surat Keputusan Direktur Jendral Pembinaan Kelembagaan Agama Islam No. F/248.K/1997 MAN 3 Palembang terpilih sebagai salah satu Madrasah aliyah di 26 provinsi yang menyelenggarakan
Pendidikan Keterampilan bidang Las listrik, tata busana dan elektro. Konsekuensi dari dikeluarkannya SK tersebut dengan membangun fasilitas gedung laboratorium keterampilan dengan standar sarana yang diperlukan. Ha ini
diperuntukkan sebagai bekal bagi siswa untuk memiliki life skill selain ilmu-ilmu yang dipelajarai di dalam kelas. Pengelolaan laboratorium keterampilan ini pada 3 tahun pertama masih didanai oleh pemerintah.
Pada tahun 1998 berdasarkan Surat Keputusan Direktur Jendral Pembinaan Kelembagaan Agama Islam No. E.IV/PP.00.6/KEP/17.A/1998 tertanggal 20 Februari 1998 tentang penunjukan MAN 3 Palembang sebagai salah satu MAN Model di Indonesia.
Pada tanggal 31 Oktober 2008 keluarlah Surat Keputusan Kepala Kantor Departemen Agama Provinsi Sumatera Selatan nomor: Kw.06/4/I/PP.00/1752/2008 tentang perizinan penyelenggaraan Program Akselerasi di MAN 3 Palembang. Program Akselerasi ini diselenggarakan mengacu pada Undang-Undang nomor 20 tahun 2003 tentang system pendidikan nasional pada pasal 5 ayat 4, pasal 12 ayat 1 huruf (b) dan huruf (i), UU Nomor 2 Tahun 2003 tentang Perlindungan Anak pasal 52 dan Kemendikbud No. 0489/U/1992 pasal 16 ayat 1 yang semuanya berisi tentang penyelenggaraan pendidikan untuk anak-anak yang memiliki bakat dan minat khusus yang lebih tinggi yang dikenal dengan istilah Cerdas Istimewa Berbakat Istimewa (CIBI). Untuk mengakomodir kemampuan siswa tersebut maka MAN 3 Palembang menyelenggarakan pendidikan khusus untuk anak-anak CIBI yang ada di MAN 3 Palembang melalui berbagai tes yang distandarkan.