Dalam rapat tersebut Mr. Muhammad Yamin mengusulkan perlu diadakannya kementerian yang istimewa, yaitu yang berhubungan dengan agama.
Menurut Yamin, "Tidak cukuplah jaminan kepada agama Islam dengan Mahkamah Tinggi saja, melainkan harus kita wujudkan menurut kepentingan agama Islam sendiri. Pendek kata menurut kehendak rakyat, bahwa urusan agama Islam yang berhubungan dengan pendirian Islam, wakaf dan masjid dan penyiaran harus diurus oleh kementerian yang istimewa, yaitu yang kita namai Kementerian Agama”.
Namun demikian, realitas politik menjelang dan masa awal kemerdekaan menunjukkan bahwa pembentukan Kementerian Agama memerlukan perjuangan tersendiri.
Pada waktu Panitia Persiapan Kemerdekaan Indonesia (PPKI) melangsungkan sidang hari Ahad, 19 Agustus 1945 untuk membicarakan pembentukan Kementerian/Departemen, usulan tentang Kementerian Agama tidak disepakati oleh anggota PPKI.
Salah satu anggota PPKI yang menolak pembentukan Kementerian Agama ialah Mr. Johannes Latuharhary.
Baca Juga: Yaqut Klarifikasi Klaim Kemenag Hadiah untuk NU, KH Cholil Nafis: Tak Mengakui Kesalahan Itu Berat
Keputusan untuk tidak membentuk Kementerian Agama dalam kabinet Indonesia yang pertama, menurut B.J. Boland, telah meningkatkan kekecewaan orang-orang Islam yang sebelumnya telah dikecewakan oleh keputusan yang berkenaan dengan dasar negara, yaitu Pancasila, dan bukannya Islam atau Piagam Jakarta.
Diungkapkan oleh KHA Wahid Hasjim sebagaimana dimuat dalam buku Sedjarah Hidup KHA Wahid Hasjim dan Karangan Tersiar (Kementerian Agama, 1957: 856), "Pada waktu itu orang berpegang pada teori bahwa agama harus dipisahkan dari negara. Pikiran orang pada waktu itu, di dalam susunan pemerintahan tidak usah diadakan kementerian tersendiri yang mengurusi soal-soal agama. Begitu di dalam teorinya. Tetapi di dalam prakteknya berlainan."
Lebih lanjut Wahid Hasjim menulis, "Setelah berjalan dari Agustus hingga November tahun itu juga, terasa sekali bahwa soal-soal agama yang di dalam prakteknya bercampur dengan soal-soal lain di dalam beberapa tangan (departemen) tidak dapat dibiarkan begitu saja. Dan terasa perlu sekali berpusatnya soal-soal keagamaan itu di dalam satu tangan (departemen) agar soal-soal demikian itu dapat dipisahkan (dibedakan) dari soal-soal lainnya. Oleh karena itu, maka pada pembentukan Kabinet Parlementer yang pertama, diadakan Kementerian Agama. Model Kementerian Agama ini pada hakikatnya adalah jalan tengah antara teori memisahkan agama dari negara dan teori persatuan agama dan negara."