Sebelum mendirikan pondok sendiri, almarhum menimba ilmu selama lima tahun di Pondok Lirboyo, Jawa Timur. Semasa itu, ia berada di bawah pengasuhan KH Abdul Karim, KH Mahrus Ali dan KH Marzuki. Semasa mudanya, almarhum juga pernah menimba ilmu di Tanah Suci.

Selain ulama, Mbah Moen juga seorang politikus. Dia pernah menjadi anggota DPRD Rembang selama tujuh tahun, serta anggota MPR selama tiga periode.

Meski dirinya adalah kiau di tubuh Nahdlatul Ulama (NU) Mbah Moen lebih memilih bergabung dengan Partai Persatuan Pembangunan (PPP). Hingga saat ini, Mbah Moen merupakan Ketua Majelis Syariah PPP. Hingga akhirnya hayatnya, almarhum masih memberikan perhatian terhadap kehidupan umat dan politik di Indonesia. ***