Secara nasional organisasi Kementerian Agama (dahulu Departemen Agama) resmi terbentuk pada tanggal 3 Januari 1946, bertugas membimbing dan mengendalikan kehidupan beragama sesuai dengan pembukaan UUD 1945 dan sebagai realisasi dari Pasal 29 UUD 1945.

Ketika wilayah Sulawesi Selatan dan Tenggara masih merupakan wilayah satu provinsi yakni Provinsi Sulawesi Selatan dan Tenggara, instansi Departemen Agama di tingkat Provinsi ketika itu bernama Jawatan Urusan Agama (JAURA) berkedudukan di Makassar, Sulawesi Selatan.

Kepala Jawatan Urusan Agama yang pertama dijabat oleh Bapak Gazali (1950-1952), yang berkantor di Jalan Jenderal Ahmad Yani Makassar (sekarang Kantor Polwiltabes Makassar). Kantor Jawatan Urusan Agama ini bertugas sebagai perpanjangan tugas pemerintah pusat pada bidang agama dan keagamaan di tingkat provinsi. Setelah Bapak Gazali menjabat kepala Jawatan tahun 1950-1952, dilanjutkan oleh Bapak Ismail Napu (1952-1955) dan selanjutnya H. Zainuddin (1955-1960).

Pada tahun 1960, Kantor Jawatan Urusan Agama Provinsi Sulawesi Selatan dipindahkan dari Jalan Jend. Ahmad Yani ke Jalan WR. Supratman pada masa Bapak Rahman Tahir (1960-1962). Pada tahun 1964, dijabat oleh K.H. Badawi (1962-1964) terjadilah peralihan wilayah administratif provinsi Sulawesi Selatan dan Tenggara dibagi menjadi dua wilayah. Provinsi Sulawesi Tenggara berdiri sendiri sebagai satu wilayah administratif, ditandai dengan keluarnya Undang-Undang Nomor 13 Tahun 1964.

Seiring dengan tuntutan pelayanan pemerintahan, maka pada masa jabatan K.H. Hasan (1967) Kantor Jawatan Urusan Agama berubah nomenklaturnya menjadi Kantor Perwakilan Departemen Agama Provinsi Sulawesi Selatan. Perubahan nomenklatur ini diharapkan dapat memberikan pelayanan yang optimal kepada masyarakat, khususnya di Sulawesi Selatan. Perubahan nomenklatur ini juga, menjadikan lokasi kantor dipindahkan ke jalan Nuri hingga sekarang ini, pada saat itu dijabat oleh Bapak K.H. Muh. Siri (1967-1970.Berdasarkan Kepres Nomor 44 Tahun 1974, Keputusan Menteri Agama Nomor 18 Tahun 1975 tentang Kedudukan, tugas pokok, fungsi serta susunan dan tata kerja Departemen Agama, maka instansi Departemen Agama tingkat provinsi berubah nomenklaturnya menjadi Kantor Wilayah Departemen Agama, termasuk Kantor Wilayah Departemen Agama Provinsi Sulawesi Selatan.

Sebelum Kantor Departemen Agama Kabupaten Gowa terbentuk, kegiatan keagamaan dilaksanakan oleh kadi Gowa (Julu empona Karaenga) yang dijabat H. Mansyur Daeng Limpo. Dalam perjalanannya, dibentuk perwakilan Departemen Urusan Agama yang dipimpin oleh  K.H. Abdullah Musa Dg. Nai, periode 1958-1970.
Setelah Keputusan Menteri Agama Nomor 53 Tahun 1971 Tentang Pembentukan Kantor Perwakilan Departemen Agama Provinsi dan Kantor Departemen Agama Kabupaten dan Inspektorat Perwakilan maka secara otomatis Departemen Agama Gowa telah resmi berdiri.

Sejak berdirinya, secara berturut-turut Departemen Agama Kabupaten Gowa dipimpin oleh :
1. H. Muh. Ali Mabham Dg. Tojeng (1970 - 1974)
2. H. Abd. Rahman Dg. Sija (1974 - 1980)
3. Drs. K.H. Abubakar Paka (1980 - 1990)
4. Drs. H. Basyir Situju (1990 - 1993)
5. Drs. K.H. Abubakar Paka (1993 – 1998)
6. Drs. H. Mukminin Gaffar (1998 - 2004)
7. Drs. H.M. Ahmad Muhajir (2004 - 2013)
8. H. Jamaris, S.Ag (Pgs. Kepala  Tahun 2014 - 2015)
9. H. Anwar Abubakar, S.Ag.,M.Pd (2015 - 2018)
10. Dra. Hj. Adliah, M.H (2019 - 2021)
11. Dr. H. Kaswad Sartono, M.Ag (Plt. Kepala Tahun 2021 - 2022)                       12. H. Aminuddin, S.Ag.,M.Ag (2022 - 2024)
13. H. Jamaris, S.Ag.,M.Ag (2024 - Sekarang)