Secara Nasional organisasi Kementerian Agama (dahulu Departemen Agama) resmi terbentuk pada tanggal 3 Januari 1946, bertugas membimbing dan mengendalikan kehidupan beragama sesuai dengan pembukaan UUD 1945 dan sebagai realisasi dari pasal 29 UUD 1945.
Ketika wilayah Sulawesi Selatan dan Tenggara masih merupakan wilayah satu provinsi yakni Provinsi Sulawesi Selatan dan Tenggara, instansi Departemen Agama di tingkat Provinsi ketika itu bernama Jawatan Urusan Agama (JAURA) berkedudukan di Makassar, Sulawesi Selatan. Kepala Jawatan Urusan Agama yang pertama dijabat oleh Bapak Gazali (1950-1952), yang berkantor di Jalan Jenderal Ahmad Yani Makassar (sekarang Kantor Polwiltabes Makassar). Kantor Jawatan Urusan Agama ini bertugas sebagai perpanjangan tugas pemerintah pusat pada bidang agama dan keagamaan di tingkat provinsi. Setelah Bapak Gazali menjabat kepala Jawatan tahun 1950-1952, dilanjutkan oleh Bapak Ismail Napu (tahun 1952-1955) dan selanjutnya H. Zainuddin (1955-1960).
Pada tahun 1960, Kantor Jawatan Urusan Agama Provinsi Sulawesi Selatan dipindahkan dari Jalan Jend. Ahmad Yani ke Jalan WR. Supratman pada masa Bapak Rahman Tahir (1960-1962). Pada tahun 1964, dijabat oleh KH. Badawi (1962-1964) terjadilah peralihan wilayah administrative provinsi Sulawesi Selatan dan Tenggara dibagi menjadi dua wilayah. Provinsi Sulawesi Tenggara berdiri sendiri sebagai satu wilayah administrative, ditandai dengan keluarya Undang-Undang Nomor 13 Tahun 1964.
Seiring dengan tuntutan pelayanan pemerintahan, maka pada masa jabatan KH. Hasan (1967) Kantor Jawatan Urusan Agama berubah nomenklaturnya menjadi Kantor Perwakilan Departemen Agama Provinsi Sulawesi Selatan. Perubahan nomenklatur ini diharapkan dapat memberikan pelayanan yang optimal kepada masyarakat, khususnya di Sulawesi Selatan. Perubahan nomenklatur ini juga, menjadikan lokasi kantor dipindahkan ke jalan Nuri hingga sekarang ini, pada saat itu dijabat oleh Bapak KH. Muh. Siri (1967-1970.
Berdasarkan Kepres Nomor 44 tahun 1974, Keputusan Menteri Agama Nomor 18 Tahun 1975 tentang Kedudukan, tugas pokok, fungsi serta susunan dan tata kerja Departemen Agama, maka instansi Departemen Agama tingkat provinsi berubah nomenklaturnya menjadi Kantor Wilayah Departemen Agama, termasuk Kantor Wilayah Departemen Agama Provinsi Sulawesi Selatan.
Seiring dengan perkembangan dan semakin luasnya cakupan wilayah kerja, maka nomenklatur Perwakilan Departemen Agama dirubah menjadi Kantor Wilayah Departemen Agama Provinsi Sulawesi Selatan.
Perubahan nomenklatur ini, dilatari dengan semakin luasnya cakupan wilayah kerja pemerintahan, sehingga tuntutan pelayanan yang lebih khusus dan optimal terkait dengan pembinaan agama dan keagamaan di Sulawesi Selatan menjadi suatu keniscayaan pada saat itu. Posisi Kepala Kantor Wilayah Departemen Agama pada saat itu dijabat oleh Bapak H. Muh. Ali Mabham Dg. Tojeng (tahun 1970-1975).
Pada tahun 2005, dilakukan serah terima asset oleh Kanwil Departemen Agama Provinsi Sulawesi Selatan kepada Kanwil Departemen Agama Provinsi Sulawesi Barat, yakni 3 (tiga) Kantor Departemen Agama Kabupaten yang dibawah wilayah Provinsi Sulawesi Barat, seperti Kabupaten Polewali Mamasa, Majene dan Kabupaten Mamuju pada saat itu.
Pada tahun 2010, atas terbit Keputusan Menteri Agama Nomor 1 Tahun 2010 tentang perubahan Departemen menjadi Kementerian, maka nama Departemen Agama dirubah menjadi Kementerian Agama. Saat ini Kantor Wilayah Kementerian Agama Provinsi Sulawesi Selatan secara struktural membawahi 23 Kantor Kementerian Agama Kabupaten / Kota se Sulawesi Selatan.
Pelaksanaan kegiatan dan program Kantor Wilayah Kementerian Agama Sulawesi Selatan, tetap mengacu pada tugas dan fungsi Kantor Wilayah Kementerian Agama sebagaimana diatur dalam Keputusan Menteri Agama Republik Indonesia Nomor 372 Tahun 2006 tentang Organisasi dan Tata Kerja Kantor Wilayah Kementerian Agama Provinsi dan Kabupaten/Kotadan kemudian diubah menjadi Peraturan Menteri Agama Nomor 13 tahun 2012 tentang Organisasi dan Tata Kerja Instansi Vertikal Kementerian Agama.