Keinginan membangun masjid begitu besar dikalangan umat muslim pontianak berawal dari dibangunnya Masjid Syuhada di Jogjakarta [1949] dan ditahun yang sama dibangun Masjid Al-Azhar di Jakarta serta direncanakannya pembangunan Masjid Istiqlal oleh Bung Karno pada awal 1950-an.
Delegasi Kalimantan mengirimkan utusannya, Achmad Mawardi Djafar, Abdur Rani Macmud, Mohamad Akib, Hasan Koeboe, Muzani A Rani dan Azhari Djamaluddin untuk mengikuti Kongres Muslimin Indonesia [KMI] dan bertemu dengan Mr Assat Sutan Mudo yang saat itu menjadi pengggas dalam pembangunan Masjid Syuhada di Jogjakarta.
Saat bertemu dengan beliau, Mawardi Djafar dan Mohamad Akib meminta petunjuk dan pengalaman tokoh nasional yang sempat sebagai Pejabat Presiden RI waktu itu untuk membangun Masjid serupa di Kota Pontianak karena pada saat itu Delegasi KMI Kalimantan Barat belum mempunyai konsep yang pasti tentang masjid besar yang akan dibangun.
Kepulangan delegasi KMI ke Pontianak pada awal tahun 1950 menambah semangat dan kerja keras untuk mewujudkan pembangunan masjid besar di Kota Pontianak. Achmad Mawardi Djafar dan Mohamad Akib aktif bersilaturahmi dengan para pemuka masyarakat muslim Pontianak untuk mendapat dukungan dan doa.
Berdirinya Yayasan Mujahidin Pontianak.
Empat tahun sudah pembangunan masjid besar direncanakan, dan pada hari Jumat, 2 Oktober 1953 tokoh muslim terkemuka seperti Mr Sjafruddin Prawiranegara, Mohamad Natsir, Syamsurizal, Buya Hamka dan Anwar Tjokroaminoto mengukuhkan dan Membentuk Yayasan Mujahidin dengan para pengurus H Achmad Mashur Thahir [pengusaha terkemuka], Mohamad Saad Karim [Kepala Kantor Urusan Agama Kabupaten Pontianak], Merah Kesuma Indra Mahyuddin [pengusaha terkemuka], Achmad Mawardi Djafar [Koordinator Penerangan Agama Daerah Kalimantan Barat], Gulam Abas [pengusaha] dan Mohamad H Husein [pengusaha] dikukuhkan dalam Akta Notaris.
Keenam Tokoh tersebut berbekal modal tunai 1000 [seribu rupiah] dalam merintis pembangunan rumah ibadah yang akan diberinama Masjid Mujahidin yang termaktub dalam Pasal 3 Akta Notaris tersebut dimana tujuan didirikannya Yayasan Mujahidin tersebut dalam Tujuan dan Usaha diuraikan bahwa: “…. Tujuan Mutlak Yayasan ini, ialah mendirikan sebuah Masjid di Kota Pontianak yang akan diberi nama Masjid Mujahidin…”
Para pengurus berusaha mengembangkan modal 1000 yang tersimpan di BRI Pontianak dengan cara membuka kotak amal bagi masyarakat yang akan menyumbang dana, subsidi pemerintah dan penerimaan lainnya yang dianggap halal.
Kepengurusan Pertamakalinya Yayasan Mujahidin yang terbentuk pada tanggal 2 Oktober 1953 yang terdiri dari dua orang penasehat, masing-masing Residen Koordinator Kalimantan Barat dan Walikota Besar Pontianak. Komisi Pengawas terdiri dari Raden Djenal Asikin Judadibrata [Residen Koordinator Kalimantan Barat] dan Raden Soedjarwo [Bupati Kabupaten Pontianak di Pontianak]. Badan Pengurus terdiri dari H Achmad Manshur Thahir [Ketua Umum], Mayor TNI Aminuddin Hamzah [Ketua I], Mohammad Saad [Ketua II], Merah Kesuma Indra Mahjuddin [Penulis I], Achmad Mawardi Djafar [Penulis II], Gulam Abas [Bendahara I] dan Mohammad H Husein [Bendahara II]. Selaku penandatangan akta notaris, mewakili para penghadap lainnya, masing-masing H Achmad Manshur Thahir, Mohamad Saad Karim, Merah Kesuma Indra Mahyuddin, Achmad Mawardi Djafar, Gulam Abas dan Mohamad H Husein.
Dipilihnya nama Mujahidin
Dipilihnya nama Mujahidin untuk yayasan dan masjid yang dirintis tersebut, diusulkan oleh Achmad Mawardi Djafar, dengan pemikiran mengabadikan perjuangan kaum muslim dalam kancah kolektif mempersembahkan kemerdekaan Indonesia, khususnya di Kalimantan Barat. Mereka maksudkan, Mujahidin sebagai monumen perjuangan ummat. Dan para penggagas yayasan ini sendiri notabene adalah pelaku sejarah di daerah ini, khususnya Achmad Mawardi Djafar dan H Achmad Manshur Thahir.
Setelah terbentuknya yayasan tersebut, tidklah berarti segala kesulitan teratasi dalam rangka membangun masjid yang diidamkan. Sebab, membangun masjid modern untuk ukuran zamannya di Pontianak ketika itu, bukan perkara yang mudah. Berbagai usaha segera dijalankan. Dengan faktor minimnya pendanaan, hingga dari waktu ke waktu, masjid yang digagas inipun belum juga kunjung didirikan. Namun, Yayasan Mujahidin berusaha semaksimal mungkin sesuai tujuan semulanya.
Perjalanan waktu, delapan tahun kemudian, pada 7 September 1961, diadakan pembaharuan kepengurusan Yayasan Mujahidin. Ini dimaksudkan untuk mempercepat pencapaian tujuan semula, membangun masjid modern di tengah Kota Pontianak. Dalam kepengurusan yang diperbaharui itu, terdiri dari tiga Penasehat: Pangdam XII Tanjungpura Brigjen Soedarmo, Wakil Gubernur Kalimantan Barat Letkol Iwan Soepardi dan Walikota Kepala Daerah Kotapraja Pontianak HA Muis Amin. Komisi Pengawas masing-masing Raden Djenal Asikin Joedadibrata, Mohammad Akib dan H Abdussjukur Ketua DPR Daswati II Kalimantan Barat. Badan Pengurus masing-masing Ketua Umum H Achmad Manshur Thahir, Ketua I Andi Odang, Ketua II Ardan, Sekretaris I Muzani A Rani, Sekretaris II Achmad Mawardi Djafar, Bendahara I Merah Kesuma Indra Mahjudin dan Bendahara II Hasnul Kabri. Anggota terdiri dari Burhanuddin, Mohamad Saad Karim, HM Saleh HA Thalib, Andi Jusuf, Saiyan Tiong, M Soedarjo, Aliaswat Saleh dan Mohamad H Husein.
Kepengurusan baru ini berusaha mensinergikan secara optimal keberadaan mereka untuk mencapai tujuan semula. Namun, malapetaka sejarah terjadi, beberapa di antara pengurus baru ini tertimpa musibah kezaliman Partai Komunis Indonesia [PKI], akibatnya mereka ini dinon-aktifkan. Kondisi itu, bersamaan dibubarkannya Partai Masyumi, di mana aktifis Yayasan Mujahidin serupa Achmad Mawardi Djafar dan Muzani A Rani adalah dua tokoh utama Masyumi di Kalimantan Barat. Mawardi Djafar anggota DPR Daswati I Kalimantan Barat dari Fraksi Masyumi dan Muzani A Rani anggota Konstituante wakil Masyumi dari Kalimantan Barat. Namun, kelahiran Orde Baru memberikan perubahan tatanan kenegaraan, dan mereka pun kembali beraktifitas di tengah masyarakat.
Selanjutnya, ketika Gubernur Kalimantan Barat dijabat Kol Kadarusno, kepengurusan yayasan mengalami perubahan untuk kedua kalinya. Dua orang tokoh pemuka masyarakat muslim Kalimantan Barat, Achmad Mawardi Djafar dan A Muin Idris, diberi mandat oleh yayasan pada 18 Januari 1975 untuk mewakili Yayasan Mujahidin untuk melakukan pembaharuan kepengurusan serta mempertegas maksud dan tujuan dari yayasan ini. Maka, pada Kamis 29 Februari 1975, dengan Akta Nomor 40 Notaris Mohamad Damiri di Pontianak, terbit Akta Perubahan Yayasan Mujahidin. Dan di bawah kepemimpinan Gubernur Kadarusno, pembangunan wujud fisik masjid dilaksanakan secara intensif.
Kepengurusan baru terdiri Ketua Umum Kadarusno, Ketua I Mohamad Barir SH, Ketua II H Achmad Manshur Thahir, Sekretaris I Achmad Mawardi Djafar, Sekretaris II Drs Noor Ismail, Bendahara Drs Nurdin. Pembantu Hasnul Kabri, HM Saleh H Thalib, Saiyan Tiong, Aliaswat Saleh, Muhamad Ali As SH, A Muis Amin, HM Jusuf Sjuib, A Muin Idris, HM Syah Bakie SE, Ir Daeng Arifin Hadi, Ir Said Djafar dan HA Hamid Lahir.