Dalam merumuskan nilai dasar Pancasila menjadi perdebatan panjang karena begitu berperannya pengaruh keagamaan dalam pembentukan bangsa Indonesia, sehingga nilai pada ketuhanan menjadi pembahasan yang harus disepakati bersama. Agoes Salim, merupakan tokoh Sarekat Islam, memandang bahwa konsep gagasan nasionalisme gaya Eropa dinilai tidak berpijak pada nilai-nilai ketuhanan. Sementara Soekarno memandang nilai-nilai ketuhanan merupakan pembeda antara nasionalisme gaya Eropa dengan nasionalisme Indonesia.
Melalui dua pemikiran itu, terbentuklah dua pemikiran yang berbeda yaitu golongan kebangsaan ala Jawa Hokokai, dan golongan Islam yang ala Masyumi. Namun, pada dasarnya kedua konsep ini memiliki tujuan yang sama. tetapi berselisih mengenai hubungan negara dan agama. Golongan Islam memandang negara tidak bisa dipisahkan dari agama, sedangkan golongan kebangsaan berpandangan negara hendaknya netral terhadap agama. Golongan Islam ingin adanya penyatuan negara dan agama, sedang golongan kebangsaan ingin ada pemisahan negara dan agama. Namun sebenarnya, perbedaan pandangan kedua golongan tersebut lebih disebab kan karena lingkungan pengetahuan yang berbeda. Golongan yang meyerukan negara Islam umumnya berasal dari lingkungan pendidikan Islam, sedangkan golongan yang menyerukan pemisahan negara dan agama berasal dari lingkungan pendidikan Barat.
Gagasan alternatif di luar dua golongan digulirkan oleh Mohammad Hatta dan Soekarno, dua tokoh berpendidikan Barat yang punya akar keislaman kuat. Hatta mengemukakan bahwa dalam Islam tidak dikenal pemisahan atau pertentangan antara agama dan negara, karena Islam tidak mengenal kependetaan. Namun urusan agama dipisah dengan urusan negara agar tidak saling campur aduk. Ia ingin menunjukkan bahwa perlu ada pembedaan (diferensiasi) antara fungsi agama dan fungsi negara. Dalam pidatonya pada 1 Juni 1945, Soekarno mengemukakan bahwa dirinya tidak mendukung gagasan Islam sebagai dasar negara, tapi memberi peluang bagi golongan Islam untuk mengorganisir diri secara politik dan memberi pengaruh dalam keputusan politik di lembaga perwakilan. Lebih dari itu, Soekarno mengusulkan prinsip ketuhanan sebagai salah satu sila dari lima filosofi dasar negara yang disebut Pancasila. Dalam sidang BPUPK, Soekarno berinisiatif membentuk panitia kecil berjumlah 9 orang (5 golongan kebagsaan dan 4 golongan Islam) untuk menyusun rancangan pembukaan Undang-Undang Dasar. Panitian Sembilan ini dibentuk sebagai upaya mempertemukan pandangan antara dua golongan yang ada terkait dasar negara. Walaupun mula-mula ada ketidakcocokan di antara dua golongan tersebut, tapi akhirnya terjadi titik temu. Pada alinea ketiga disebutkan, “Atas berkat rahmat Allah Yang Maha Kuasa dan dengan didorongkan oleh keinginan luhur, supaya berkehidupan kebangsaan yang bebas.” Alinea ini mencerminkan pandangan kedua golongan tersebut.
Sementara pada alinea terakhir pembukaan yang mencantumkan sila-sila Pancasila, didalamnya tidak dicantumkan Islam sebagai dasar negara, tetapi prinsip “Ketuhanan” yang dalam pidato Soekarno ada di sila kelima digeser jadi sila pertama. Kemudian ditambah dengan tujuh kata berikut: “dengan kewajiban menjalankan syariat Islam bagi pemeluk-pemeluknya”.Namun, Soekarno menyadari bahwa Panitia Sembilan dibentuk secara informal, diluar kewenangan BPUPK. Tugas BPUPK adalah menyiapkan usaha-usaha kemerdekaan, sedangkan penyusunan rancangan dan penetapan UUD jadi kewenangan Panitia Persiapan Kemerdekaan Indonesia (PPKI). Namun ia beralasan bahwa apa arti formalitas ditengah desakan sejarah saat itu.
Konsep pembukaan UUD yang dikenal dengan Piagam Jakarta tersebut mendapat tanggapan dari Latuharhary yang keberatan terhadap tujuh kata setelah kata Ketuhanan. Namun Soekarno meredamnya dengan mengatakan bahwa pembukaan UUD tersebut merupakan hasil kompromi antara golongan kebangsaan dan golongan Islam. Pada sidang PPKI 18 Agustus 1945, Soekarno dan Mohammad Hatta dipilih sebagai presiden dan wakil presiden.
Pada saat itu pula, PPKI menyetujui naskah Piagam Jakarta kecuali tujuh kata di belakang sila Ketuhanan. Tujuh kata tersebut diganti dengan “Yang Maha Esa” sehingga berbunyi “Ketuhanan Yang Maha Esa”. Mohammad Hatta berperan besar dalam pencoretan tujuh kata tersebut. Pada pagi hari sebelum rapat PPKI, Hatta mendekati tokoh-tokoh Islam agar bersedia mengganti tujuh kata di belakang Ketuhanan sehingga menjadi Ketuhanan Yang Maha Esa. Alasannya, demi menjaga persatuan bangsa. Alasan ituah yang membuat golongan Islam menyetujui pencoretan tujuh kata tersebut.