Menyibak asal mula berdirinya pondok pesantren Al karimi erat kaitannya dengan latar belakang KH Abdul Karim sebagai pendiri Pondok Pesantren Al Karimi.
KH. Abdul Karim Tebuwung lahir pada Senin Wage 11 Syawal 1245 H (5 April 1830), beliau merupakan ulama kharismatik kelahiran Desa Drajat, Paciran, Lamongan, Jawa Timur yang memiliki nasab hingga Sunan Drajat
KH. Abdul Karim Tebuwung adalah salah seorang ulama kharismatik keturunan Sunan Drajat yang merupakan pendiri Pondok Pesantren Tebuwung Dukun Gresik yang sekarang dikenal Pondok Pesantren Al-Karimi. Masa kecilnya bernama Raden Karmadin.