Idham Chalid lahir dari pasangan H. Muhammad Chalid dan Hj. Umi Hani di Setui, Kalimantan Selatan, 5 Muharram 1341 H / 27 Agustus 1922. 

Ia menuntut ilmu di Al-Madrasah Ar Rasyidiyah Amuntai dan lulus pada 1938 dan tamat dari Pondok Modern Gontor Ponorogo pada 1940. 

Pada usia 18 tahun, Idham Chalid mengajar di Gontor dan menjadi Wakil Direktur Kulliyatul Muallimin al-Islamiyyah (KMI). 

Ia lalu mengikuti kursus Djakarta Nippongo Gakko di Jakarta, hingga mampu menguasai bahasa Jepang dengan baik bahkan sering jadi penerjemah beberapa pertemuan alim ulama dan Jepang.

Selain itu, ia ditunjuk para ulama di Amuntai untuk memimpin Al-Madrasah Ar Rasyidiyah. Idham Chalid juga mengorganisasi madrasah-madrasah yang berada di luar pesantren yaitu organisasi Ittihad al-Ma'ahid al Islamiyah.

Beliau terlibat aktif dalam gerakan kemerdekaan melawan penjajah dan juga tercatat sebagai Sekretaris Panitia Kemerdekaan Indonesia Daerah (Hulu Sungai Utara) di Amuntai, dan menjadi Ketua Partai Masyumi Amuntai. 

Dari partai itulah, Ia terbawa ke pentas politik nasional 2 hingga menjabat di beberapa jabatan bergengsi di negeri ini, di samping di Nahdlatul Ulama.