Banyak kitab-kitab klasik yang menerangkan tentang keharusan kita untuk bermadzhab. Selain itu, Muktamar NU ke-1 telah memberikan fatwa tentang Hukum Bermadzab.
Tentu disepakati bahwa sumber hukum Islam adalah Al-Quran dan As-Sunnah (perbuatan Nabi, sabda-sabdanya atau Al-hadits dan taqrirnya), akan tetapi jalan untuk memahaminya tidak mungkin langsung menemukannya di dalam Al-Quran dan As-Sunnah.