KH Abdul Azim Ahmad Suhaimi lahir di Mampang Prapatan, Jakarta Selatan pada 1 Juli 1937. Ayahnya KH Ahmad Suhaimi adalah seorang ahli falak. Dan kakeknya Abdul Mughni bin Sanusi bin Ayub bin Qais adalah seorang ulama Betawi terkemuka pada masanya, yang lebih dikenal dengan sebutan Guru Mughni.
KH Abdul Azim AS menempuh pendidikan dasar di Sekolah Rakyat dan kemudian di Madrasah Raudhatul Muta’allimin Kuningan. Tahun 1956-1957 ia belajar di Pesantren Tebuireng, Jombang, Jawa Timur. Tahun 1957 ia berangkat ke Kairo, Mesir. Pendidikan yang diambil di Kairo tidak langsung pendidikan tinggi, karena harus lebih dahulu menyelesaikan tingkat SMA-nya. Barulah setelah itu, ia meneruskannya dengan mengambil pendidikan sarjana.
Ia juga cukup aktif di dunia organisasi. Pada tahun 1955, ia menjadi anggota Pandu Ansor cabang Kramat Jati, Jakarta Timur. Ketika di Kairo ia pun aktif dalam Persatuan Pelajar Indonesia (PPI).
Setelah sekitar sembilan tahun tinggal dan belajar di Mesir, ia kembali ke Indonesia dan mulai aktif berdakwah. Karena keaktifannya, ia pun berhubungan dekat dengan banyak ulama besar. Salah satunya KH Fathullah Harun, ulama Betawi Matraman yang waktu itu menjadi imam dan guru besar di Malaysia.
Oleh kiai dan sekaligus sahabatnya saat di Mesir itu, KH Abdul Azim sering diundang untuk mengasisteni dan mengadakan kunjungan dakwah ke berbagai tempat di Malaysia bahkan sampai ke Patani, Thailand. Tahun 1974, KH Abdul Azim semakin fokus mengembangkan dakwah di Jakarta. Ia antara lain terlibat dalam memajukan Perguruan Islam Al Mughni yang dirintis kakeknya sejak tahun 1925.
Perguruan Al-Mughni yang sempat mengalami gempuran tantangan atas nama pembangunan di DKI Jakarta, kini semakin maju. Lokasi perguruan yang dikepung bangunan perkantoran di Jalan Gatot Subroto Jakarta Selatan itu, berpacu dengan modernisasi Jakarta memiliki lembaga sekolah yang menyelenggarakan pendidikan dari Taman Kanak-kanak hingga Sekolah Menengah Pertama (SMP).
KH Abdul Azim adalah ayah dari empat anak yang banyak aktif di dunia pendidikan Islam. Salah satu anaknya, Ahmad Sidqi, adalah aktivis PCINU di Turki. Kepada generasi muda NU KH Abdul Adzim berpesan agar tidak melupakan sejarah dan peran para pendahulu.