Kemudian pindah lagi ke Pesantren Krapyak, Yogyakarta. Di Yogyakarta, ia diasuh oleh KH Ali Maksum selama hampur tiga tahun. Ia lalu kembali ke Rembang untuk mengaji langsung diasuh ayahnya.
Baca Juga: Puisi Yang terampas dan Yang Terputus Karya Chairil Anwar
Banyak karya puisi yang populer ditulisnya, sehingga para santri dan masyarakatnya memberikan gelar untuk dia seorang Kiai sekaligus Penyair, berikut ini karya puisi Gus Mus.
Puisi Dalam Kereta
Bukanya aneh bukannya dalam kereta aku kembali teringat
Apakah karena gemuruh yang melintas disini
Aku kembali teringat perjalanan kita yang singkat bukan karena jarak yang dekat
Tapi jarak terlipat oleh keasikan kita yang nikmat
Tidak seperti biasa, kita begitu menjadi kanak-kanak
Bahkan kadang-kadang norak
Baca Juga: Puisi Yang terampas dan Yang Terputus Karya Chairil Anwar
Tak terganggu stasiun berteriak-teriak dan suara kereta yang bergerak-gerak
Bukannya aneh kita menikmati kesendirian dalam keramaian
Stasiun demi stasiun terlewati tanpa kita sadari
Sampai kita kembali menjadi diri kita lagi
Kau dimana sekarang sayang
Lalu apa yang ada disini (dada) yang terus bergemuruh ini