Sejarah awal dari pendirian perguruan Al Muslihuun dimulai dari sebuah kelompok pengajian yang dilaksanakan di masjid Al Muslihuun sekitar tahun 1895 oleh KH. Imam Baghowi dengan membaca kitab sorogan Fathul Qorib, Thoriqoh naqsabandiyah dan sebagainya, pengikutnya adalah masyarakat sekitar desa Tlogo, kian hari pengajian dan penqikutnya bertambah banyak sehingga nama desa Tlogo menjadi popula
r dengan adanya pengajian yang dilakukan oleh KH Imam Baghowi tersebut. Dalam perkembangannya pada tahun 1915 dikarenakan pemerintah kolonial Hindia Belanda yang menguasai segala pergerakan pemerintahan menyelidiki adanya pengajian yang dilaksanakan di desa Tlogo oleh KH. Imam Baghowi maka seketika pada tahun itu pula beliau mengajukan izin kepada Hindia Belanda untuk mengadakan kegiatan pengajian yang jauh dari bau politik, maka Alhamdulillah dengan berat hati perizinan tersebut didapatkan, dapat dikatakan wajar apabila pemerintah ketika itu sangat khawatir melihat betapa banyak pengikut pengajian KH. Imam Baghowi membawa perubahan yang luar biasa bagi masyarakat Tlogo dan sekitarnya akan tetapi kesuksesan beliau tidak dapat dinikmati dalam waktu yang lama karena beliau harus menghadap sang kholiq pada tahun 1928, walaupun beliau wafat tetapi api perjuangan mensyiarkan da'wah Islamiyah yang telah beliau nyalakan ketika itu telah berkobar di bumi Al Muslihuun sehinggga putra putri beliaulah yang mendapatkan mandat untuk mewarisi perjuangan beliau, sehingga akhirnya pada tahun 1958 bulan dzulhijah putra pertama beliau KH. Imam Sibaweh (Mbah Baweh) mengadakan pertemuan di masjid Al Muslihuun yang isinya adalah membicarakan tentang keresahan para kyai dan tokoh masyarakat antara lain KH. Ridwan (Karangsono), KH. Abdur Rohman Supriadi (Jatinom), Ky. Abdur Rohim (Tulung Rejo), Ky. Ahyar (Kademangan), H. Ngarib (Bence), KH. Ismail (Banggle), Ky. Noeroeddin (Tlogo), Ky. Muson (Jatinom), Ky. Abdul Choliq (Tlogo), dan masih banyak yang tak dapat kami sebutkan, beliau prihatin melihat minimya lembaga pendidikan yang mengajarkan pendidikan agama secara sistimatis dan bukan hanya sekedar berupa pengajian kitab kuning di masjid sebagaimana yang selama ini dilaksanakan di masjid Al Muslihuun oleh KH. Imam Baghowi akan tetapi meningkatkan menjadi sebuah lembaga pendidikan. Maka berdirilah lembaga pendidikan pertama di masjid Al Muslihuun yaitu Madrasah Islam Menengah (MIM) Al Muslihuun yang dalam perkembangannya sekarang disebut Madrasah Tsanawiah Al Muslihuun (MTs Al Muslihuun). Dengan menggunakan nama MIM Al Muslihuun yang berdiri pada hari Rabo Pon, 4 Juni 1958 dan sejak saat itulah nama "Al Muslihuun" mulai digunakan sebagai lembaga pendidikan dengan tujuan: 1. Membantu anak anak yang kurang mampu dalam ekonomi untuk dapat menikmati pendidikan sekolah. 2. Mencetak generasi islam yang berhaluan ahlussunah wal jamaah. 3. Mencetak generasi islam yang menguasai pengetahuan agama dan umum. 4. Membantu anak-anak yang tidak mampu sekolah keluar daerah karena harus membantu orang tuanya bekerja di rumah. Didirikan MIM tidak lepas dari kepedulian para tokoh tersebut untuk mencerdaskan kehidupan bangsa. MIM dimaksudkan untuk menghilangkan kebodohan dan pada saat yang sama MIM memberi ruang yang lega bagi anak yang dilatarbelakangi ekonomi yang kurang menguntungkan. Untuk menyelesaikan pendidikan di MIM siswa harus menempuh pendidikan selama 4 tahun. Belum puas dengan MIM, maka pada tahun 1959 didirikanlah PGA (Pendidikan Guru Agama) dengan 25 (dua puluh lima) siswa sebagai angkatan pertamanya. PGA di bawah kepemimpinan Ky. Noeroeddin Sibaweh telah berhasil meluluskan angkatan pertamanya pada tahun pelajaran 1962/1963 dengan mengikuti ujian di rayon PGA Kediri. Dan dari 25 siswa tersebut, 15 diantaranya dinyatakan lulus dalam ujian tersebut. Dan pada tahun yang sama pula, 1959, telah dibuka (Madrasah Ibtidayah) sampai dengan kelas III yang mampu menampung 40 (empat puluh) siswa. Kedua lembaga baru tersebut sama dengan generasi pendahulunya, MIM, kegiatan belajar mengajarnya menumpang di tempat sama. Pada tahun 1960, dimulailah pembangunan gedung baru untuk kegiatan belajar mengajar. Dan baru pada tahun 1962 gedung dibangun diatas swadaya masyarakat murni tersebut selesai pembangunannya, gedung baru tersebut terdiri (empat lokal). Pada tahun 1962 pula didirikan MIMA (Madrasah Ibtidayah Menengah Atas). Madrasah ini didirikan dengan tujuan untuk menampung para siswa yang telah lulus dari MIM dan PGA. Pada kenyataannya, kurikulum yang diberlakukan di MIMA merupakan kurikulum yang dirancang sendiri dan nampak sebagai bentuk kombinasi antara pondok pesantren dan umum. Tahun 1969 adalah tahun bersejarah bagi MIMA. Ikhwal ini disebabkan oleh terjadinya perubahan status yang terjadi di MIMA. MIMA berubah status menjadi negeri dengan SK (surat keputusan) Menteri Agama no. 144 tertanggal 3 November 1969. Status MIMA Al Muslihuun yakni MAAI berubah menjadi MAAIN (Madrasah Aliyah Agama Islam Negeri) Tlogo yang sekarang lebih dikenal dengan nama Madrasah Aliyah Negeri Tlogo atau MAN Tlogo. Pada tahun 1972 “Al-Muslihuun” mentasbihkan diri secara formal sebagai yayasan. Proses yuridis yang berkaitan dengan perubahan status tersebut tercatat dalam akte Notaris No. 2 Tahun 1972 dan bernama Yayasan Pondok Pesantren (YPP) “Al-Muslihuun”. YPP Al Muslihuun pada tahun 1975 membuka Fakultas Tarbiyah Al Muslihuun Tlogo dikarenakan lulusan MAAIN dan PGA 6 tahun Al Muslihuun ± 100 siswa bisa melanjutkan di Fakultas Tarbiyah Al Muslihuun Tlogo. Dan pada Tahun 1979 mengikuti ujian yang pertama dengan predikat Sarjana Muda dan Fakultas Tarbiyah Al Muslihuun berubah nama menjadi STIT Al Muslihuun karena peraturan Dewan yang kemudian hijroh di desa Gaprang pada tahun 1980 karena lokasi sudah penuh. Pada tahun 1978, tepatnya pada tanggal 23 Januari 1978. MAAIN secara resmi “hijrah” ke Gaprang karena bangunan yang dibangun sebelumnya sudah siap digunakan bersamaan dengan diringkasnya nama menjadi MAN (Madrasah Aliyah Negeri) dengan SK Menteri Agama Republik Indonesia No. 113 tahun 1978 tertanggal 7 Desember 1978 dan efektif berlaku mulai tanggal 18 Maret 1979. Kemudian Al Muslihuun pada tahun 1994 kembali mengambil inisiatif mendirikan madrasah dengan nama Madrasah Aliyah Khusus untuk program Keagamaan, yang disingkat MAK Al Muslihuun dengan status terdaftar dengan nomor NSM 312350510538. Tahun 1997 MAK Al Muslihuun meluluskan alumni pertamanya mencapai 90%. Akan tetapi pada perkembangannya, karena adanya pengembangan program dari pemerintah (Depag) maka MAK lebur ke dalam Madrasah Aliyah, menjadi salah satu jurusan dari tiga jurusan yang ada, yaitu jurusan Agama Islam.
