Bağdad’a gittiğinde 18 yaşında bulunuyordu. Orada bulunan meşhûr âlimlerden ders almak sûretiyle hadîs, fıkıh ve tasavvuf ilimlerinde çok iyi yetişti. Fıkıh ilmini; Ebû Hattâb Mahfûz, Ebü’l-Vefâ, Ali bin Ukayl, Ebû Hüseyn bin Kâdı Ebû Ya’lâ ve diğer fıkıh âlimlerinden öğrendi. Hadîs ilmini; Hasen-i Bâkıllânî, Ebû Sa’îd Muhammed bin Abdülkerîm, Ebû Gânim Muhammed bin Muhammed, Ebû Bekr Ahmed bin Muzaffer, Ebû Ca’fer, Ebû Kâsım bin Ali, Ebû Tâlib Abdülkâdir, Ebû Bekr Hibetullah İbni Mübârek, Ebü’l-İzz Muhammed bin Muhtâr, Ebû Nasr Muhammed, Ebû Gâlib Ahmed, Ebû Abdullah Yahyâ ve diğer hadîs âlimlerinden öğrendi. Tasavvuf ilmini ise; babası Ebû Sâlih hazretlerinden, Şeyh Ebû Sa’îd Mahzûmî’den ve Hammâd-i Debbas’tan almıştır.
İlim tahsilini tamamlayıp yetiştikten sonra, va’z ve ders vermeye başladı. Hocası Ebû Sa’îd Muharrimî’nin medresesinde verdiği dersleri ve va’zları, çok büyük bir alâka ile ta’kib edilirdi. Onu dinlemek üzere toplananlar o kadar kalabalık olurdu ki, medreseye sığmaz sokaklara taşıp, çevresini de doldururdu. Bu sebeble, onun ders verip sohbet ettiği, bu medresenin çevresinde bulunan evler de medreseye ilâve edilmek sûretiyle genişletildi. Bu iş için Bağdad halkı çok yardımcı oldu. Zengin olanlar para vererek, fakir olanlar ise bizzat çalışmak sûretiyle yardım etmişlerdir. Hattâ bir kadın, kocasından alacağı olan mehir bedelini, kocasının orada çalışması şartıyla ödenmiş kabûl etti. Onun derslerine devam edenler arasında, pekçok âlim ve sâlih yetişti. Abdülkâdir-i Geylânî hazretleri, bir müddet ders verip insanları irşâd ettikten sonra, ders ve va’z vermeyi bırakıp, inzivâya çekildi, yalnızlığı tercih etti. Daha sonra sahralara çıktı. Bağdad’ın Kerh harabelerinde yaşamaya başladı. Bütün vaktini, ibâdet, riyâzat ve mücâhede ile geçirmeye başladı. Buyurdu ki: “Yirmibeş yıl kadar, yalnız başıma sahralarda dolaştım. Kırk sene, yatsı namazından sonra, sabaha kadar Kur’ân-ı kerîm okudum. Bir gece, nefsim uyumak istemişti. Fakat, nefsimin bu isteğine i’tibâr etmedim. Kırk gün oruç tutup, sonra iftar ettim.” Yine şöyle anlatmıştır: “Münâcaatta idim. Yanıma birisi geldi. Kendisini tanımıyordum. Arkadaş olalım dedim. Fakat muhalefet etmemek şartıyla dedi. Muhalefet etmem dedim. Burada bekle, geleceğim dedi. Gitti, bir yıl sonra geldi. Aynı yerde onu bekliyordum. Bir müddet beraber oturduk. Kalktı gitti. Ben gelinceye kadar buradan ayrılma dedi. Yine bir sene bekledim. Geldi. Yanında ekmek ve süt getirdi. Ben Hızır’ım, bunları sana getirmemi söylediler ve “Kalk, Bağdad’a hareket et!” buyurdu. Beraber Bağdad’a gittik.” Yine bir hâlini şöyle anlatmıştır: “Yıllarca bir yerde durdum. Allahü teâlâya söz verdim, bana birisi yedirmeyince birşey yemeyeceğim dedim. Lokma lokma ağzıma koymazlarsa ve su vermezlerse, kendim yiyip içmeyeceğim dedim. Ve kırk gün yemedim. Kırk gün sonra birisi geldi. Bir parça yiyecek getirip, gitti. Nefsim yemeğe saldıracak gibi oldu. Çok acıkmış olduğum hâlde, Allahü teâlâya verdiğim sözü bozmayacağım dedim, içimden feryâd eden bir ses duydum. Açım, açım diyerek inliyordu. Aniden yanımda Şeyh Ebû Sa’îd Mahzûmî göründü. Bu sesi duyup, “Ey Abdülkâdir, bu ses nedir?” dedi. “Bu, nefsimin ızdırabıdır. Rûhum rahat ediyor. Rabbimi murâkabededir” dedim. “Bizim eve buyur” dedi. Nefsime, buradan ayrılmayacağım dedim. O sırada Hızır aleyhisselâm geldi. “Kalk, Ebû Sa’îd’in huzûruna git!” dedi. Kalkıp gittim. Ebû Sa’îd, evinin kapısında durmuş beni bekliyordu. “Ey Abdülkâdir, benim dediğim kâfi gelmedi de Hızır’ın söylemesini mi bekledin?” dedi. Beni içeri aldı. Hazırladığı yemeği, lokma lokma ağzıma koydu. Doydum. Sonra bana icâzet ve hilâfet verdi.”
İlim tahsilini tamamlayıp yetiştikten sonra, va’z ve ders vermeye başladı. Hocası Ebû Sa’îd Muharrimî’nin medresesinde verdiği dersleri ve va’zları, çok büyük bir alâka ile ta’kib edilirdi. Onu dinlemek üzere toplananlar o kadar kalabalık olurdu ki, medreseye sığmaz sokaklara taşıp, çevresini de doldururdu. Bu sebeble, onun ders verip sohbet ettiği, bu medresenin çevresinde bulunan evler de medreseye ilâve edilmek sûretiyle genişletildi. Bu iş için Bağdad halkı çok yardımcı oldu. Zengin olanlar para vererek, fakir olanlar ise bizzat çalışmak sûretiyle yardım etmişlerdir. Hattâ bir kadın, kocasından alacağı olan mehir bedelini, kocasının orada çalışması şartıyla ödenmiş kabûl etti. Onun derslerine devam edenler arasında, pekçok âlim ve sâlih yetişti. Abdülkâdir-i Geylânî hazretleri, bir müddet ders verip insanları irşâd ettikten sonra, ders ve va’z vermeyi bırakıp, inzivâya çekildi, yalnızlığı tercih etti. Daha sonra sahralara çıktı. Bağdad’ın Kerh harabelerinde yaşamaya başladı. Bütün vaktini, ibâdet, riyâzat ve mücâhede ile geçirmeye başladı. Buyurdu ki: “Yirmibeş yıl kadar, yalnız başıma sahralarda dolaştım. Kırk sene, yatsı namazından sonra, sabaha kadar Kur’ân-ı kerîm okudum. Bir gece, nefsim uyumak istemişti. Fakat, nefsimin bu isteğine i’tibâr etmedim. Kırk gün oruç tutup, sonra iftar ettim.” Yine şöyle anlatmıştır: “Münâcaatta idim. Yanıma birisi geldi. Kendisini tanımıyordum. Arkadaş olalım dedim. Fakat muhalefet etmemek şartıyla dedi. Muhalefet etmem dedim. Burada bekle, geleceğim dedi. Gitti, bir yıl sonra geldi. Aynı yerde onu bekliyordum. Bir müddet beraber oturduk. Kalktı gitti. Ben gelinceye kadar buradan ayrılma dedi. Yine bir sene bekledim. Geldi. Yanında ekmek ve süt getirdi. Ben Hızır’ım, bunları sana getirmemi söylediler ve “Kalk, Bağdad’a hareket et!” buyurdu. Beraber Bağdad’a gittik.” Yine bir hâlini şöyle anlatmıştır: “Yıllarca bir yerde durdum. Allahü teâlâya söz verdim, bana birisi yedirmeyince birşey yemeyeceğim dedim. Lokma lokma ağzıma koymazlarsa ve su vermezlerse, kendim yiyip içmeyeceğim dedim. Ve kırk gün yemedim. Kırk gün sonra birisi geldi. Bir parça yiyecek getirip, gitti. Nefsim yemeğe saldıracak gibi oldu. Çok acıkmış olduğum hâlde, Allahü teâlâya verdiğim sözü bozmayacağım dedim, içimden feryâd eden bir ses duydum. Açım, açım diyerek inliyordu. Aniden yanımda Şeyh Ebû Sa’îd Mahzûmî göründü. Bu sesi duyup, “Ey Abdülkâdir, bu ses nedir?” dedi. “Bu, nefsimin ızdırabıdır. Rûhum rahat ediyor. Rabbimi murâkabededir” dedim. “Bizim eve buyur” dedi. Nefsime, buradan ayrılmayacağım dedim. O sırada Hızır aleyhisselâm geldi. “Kalk, Ebû Sa’îd’in huzûruna git!” dedi. Kalkıp gittim. Ebû Sa’îd, evinin kapısında durmuş beni bekliyordu. “Ey Abdülkâdir, benim dediğim kâfi gelmedi de Hızır’ın söylemesini mi bekledin?” dedi. Beni içeri aldı. Hazırladığı yemeği, lokma lokma ağzıma koydu. Doydum. Sonra bana icâzet ve hilâfet verdi.”
“Yavrum! Şüphesiz yapılan iş bir hardal tanesi ağırlığında olsa ve bir kayanın içinde, yahut göklerde ya da yerin içinde bile olsa, Allah onu çıkarır getirir. Çünkü Allah, en gizli şeyleri bilendir, (her şeyden) hakkıyla haberdar olandır.”