Hingga pada tahun 1959 M, atas dorongan dan bantuan kedua kakaknya, Salim Ba’asyir dan Ahmad Ba’asyir, ia mendaftar sebagai santri di Pondok Pesantren Darussalam Gontor, sebuah Pondok Pesantren yang terbilang terbaik dan termaju di Indonesia. Atas berkat rahmat Allah SWT, ia berhasil menjadi santri di pondok pesantren tersebut. Di sini, keaktifan berorganisasinya kembali tersalurkan dalam wadah Pelajar Islam Indonesia (PII) cabang Gontor. Impiannya melanjutkan pendidikan yang sempat terhenti membuatnya serasa melihat pelita di tengah buta kegelapan malam.
Empat tahun menjadi santri pondok pesantren Darussalam Gontor, dengan rahmat Allah, ia berhasil lulus dari kelas Mualimin pada tahun 1963 M. Semangatnya untuk menempuh pendidikan masih membara di benaknya sehingga (masih atas bantuan kakaknya), ia melanjutkan studinya di Universitas Al Irsyad jurusan Dakwah di kota Solo selama kurang lebih tiga tahun. Selama menjadi mahasiswa , ia aktif dalam beberapa organisasi pemuda. Ia menjadi anggota Himpunan Mahasiswa Islam (HMI) cabang Solo. Di HMI, dia pernah mendapatkan amanah sebagai ketua Lembaga Dakwah Mahasiswa Islam (LDMI) -sebuah lembaga semi otonom HMI- cabang Solo di masa Ir. Imaduddin sebagai Ketua Umumnya. Di organisasi Gerakan Pemuda Islam Indonesia, Abu Bakar Ba’syir pernah mendapatkan amanat dakwah sebagai Ketua pada tahun 1961. Selain itu, di dalam organisasi Pemuda Al Irsyad, ia menjadi sekreatis cabang Solo.
Menginjak usia dewasa, panggilan hati untuk menikah mengarahkannya untuk menyunting seorang muslimah bernama Aisyah binti Abdurrahman Baraja’. Sejak saat itu, keberadaan sang istri selalu menyertai perjuangan dakwahnya. Kesetiaan sang istri tak hanya dibuktikan dengan kata mutiara dan hiasan pujian semata. Namun, keberadaan sang istri, Aisyah Baraja’, dalam perjuangan dakwah terwujud dalam tindakan nyata dan fakta. Dari rahim istrinya, keduanya memiliki tiga orang anak yang saat ini telah menikah dan masih hidup semuanya. Tiga anaknya terdiri atas 1 orang putri dan 2 orang putra. Mereka adalah Zulfah, Rosyid Ridho dan Abdul Rohim.
Perjalanan dakwahnya kemudian berlanjut dengan mendirikan radio dakwah yang di namai radio ABC (Al-Irsyad Broadcasting Center) di gedung Al Irsyad Solo yang hingga kini masih berdiri. Ikut aktif bersama beliau adalah Ustadz Abdullah Sungkar (rhm), Ustadz Abdullah Thufail (rhm),dan Ustadz Hasan Basri (rhm). Karena terjadi perselisihan faham dengan beberapa pengurus Al-Irsyad terkait acara radio tersebut, maka beliau keluar bersama beberapa pengurus radio ABC dan mendirikan Radio Dakwah Islamiah Surakarta (Radis) yang padat dengan muatan dakwah yang tegas dan menghindari lagu-lagu maksiat. Radis didirikan di komplek masjid Al Mukmin lama yang akhirnya ditutup oleh rezim orba karena dianggap menentang pemerintah.
Tak cukup hanya dakwah lewat frekuensi udara, beliau mendirikan madrasah diniyah (semacam lembaga non formal yang mengajarkan pendidikan agama Islam yang biasanya diselenggarakan pada sore hari) di komplek masjid Al Mukmin Gading Wetan (saat ini menjadi SMU Islam 1 Surakarta, bukan SMU Al-Islam 1 Surakarta). Pada mulanya, madrasah yang hanya masuk sore hari ini memberikan pendidikan Bahasa Arab dan materi syariat Islam. Selanjutnya, melalui madrasah diniyah inilah, cikal bakal Pondok Pesantren Al Mukmin Ngruki kemudian berdiri hingga sekarang.
Melihat pekembangan madrasah yang pesat dan didorong oleh amanah yang diamanatkan oleh KH. Zarkasyi (Pendiri Pondok Pesantren Darussalam Gontor), Abu Bakar Ba’asyir berinisiatif mengembangkan madrasah diniyah menjadi pondok pesantren yang saat itu bertempat di Gading Kidul-Surakarta menempati area yang sempit. Barulah setelah 2 tahun kemudian, Pondok Pesantren Al Mukmin dipindahkan ke tanah yang lebih luas di desa Ngruki yang dibeli dari salah seorang tokoh agama di solo. Desa Ngruki sendiri saat itu masih ”dikuasai” oleh kalangan komunis yang masih cukup kental. Bersama Ustadz alm. Abdullah Sungkar, Ustadz Alm. Hasan Basri, Alm. Abdullah Baraja’ , Ustadz alm. Yoyok Raswadi, dan ustadz Abdul Qahar Haji Daeng Matase, ust. Abu Bakar Ba’asyir terus membangun dan mengembangkan pendidikan di pesantern Al-mukmin. Pendukung utama berdirinya pondok pesantren tersebut adalah anggota pengajian-pengajian yang diasuh oleh tokoh-tokoh pendiri, terutama anggota pengajian kuliah zuhur di Masjid Agung Surakarta. Alhamdulillah, hingga sampai saat ini kegiatan pengajian tersebut masih berjalan.
Sejak awal, ust. Abu Bakar Ba’asyir dan teman-temannya mempunyai karakter yang tak enggan menyampaikan kebenaran dimanapun dan apapun keadaan yang harus di hadapinya walaupun harus berhadapan dengan penguasa. Hal inilah yang kemudian membuat pemerintah menjadi gerah. Karena materi yang disampaikan dianggap menentang rezim saat itu, akhirnya Ust. Abdullah Sungkar, Ust. Hasan Basri, dan ust. Abu Bakar Ba’asyir sendiri dipenjara selama 4 tahun tanpa alasan yang jelas hingga akhirnya Ust. Abdullah Sungkar dan ust. Abu Bakar Ba’asyir kembali divonis hukuman 9 tahun penjara. Tidak terima dengan keputusan hakim, maka beliau berdua mengajukan banding, hingga diturunkan menjadi 4 tahun sesuai dengan masa tahanan yang sudah dijalani. Tak puas dengan hasilnya, jaksa agung mengajukan kasasi ke MA.
(bersambung kebawah)