আসহাবে সুফফার পর থেকে মাদরাসা শিক্ষা মূলত ছিল ব্যক্তিকেন্দ্রিক। এরপর বর্তমানে প্রচলিত ধারায় মাদরাসার প্রথম সূচনা হয় হিজরী পঞ্চম শতকে। প্রথম মাদরাসা প্রতিষ্ঠার সৌভাগ্য লাভ করেন প্রখ্যাত আফগান প্রশাসক সুলতান মাহমুদ গজনবী। সেটাও ছিল মসজিদ ভিত্তিক। যেহেতু সুফ্ফা ছিল মসজিদভিত্তিক তাই অধিকাংশ কওমী মাদরাসাই গড়ে উঠেছে মসজিদভিত্তিক। এরপর ঐ শতকেই সালজুকী সুলতান আলেপ্পো আরসালান (শাসনকাল ৪৫৫ হি.-৪৬৫ হি.) মন্ত্রী নিজামুল মুলক তুসীকে নিয়ে একদিন নিশাপুর গমন করেন। সুলতান সেখানকার মসজিদে একদল লোককে বসে থাকতে দেখে তাদের পরিচয় জিজ্ঞাসা করলেন। নিজামুল মুলক বললেন, ‘তারা উলামায়ে কেরাম, খুব ভালো মানুষ। তারা নিজেদেরকে পার্থিব ভোগ-বিলাস থেকে মুক্ত রাখেন। তারা ইলম অন্বেষণ ও কামালিয়াত অর্জনে জীবনকে উৎসর্গ করেছেন।’ এই বলে নিজামুল মুলক সুলতানকে বললেন- ‘যদি অনুমতি দেন তাহলে প্রতিটি শহরে একটি করে স্থাপনা নির্মাণ করে তাদেরকে বসিয়ে দিই এবং তাদের জন্য বেতন-ভাতা নির্ধারণ করে দিই, যাতে করে তারা সেখানে নিরবচ্ছিন্নভাবে মুক্ত মনে, মুক্ত চিন্তায় শিক্ষা-দীক্ষার পেছনে সময় ব্যয় করতে পারেন।’ সুলতান আলেপ্পো আরসালান নিজামুল মুলক তুসীকে অনুমতি দিলেন। অতঃপর নিজামুল মুলক রাষ্ট্রীয় কোষাগার থেকে এক বছরেই ৭০টি মাদরাসা স্থাপন করেন। এ মাদরাসাগুলোর কোনটি প্রাইমারী ধরনের, কোনটি মাধ্যমিক পর্যায়ের। আবার কোনটি ছিল বিশ্ববিদ্যালয় স্তরের। যেহেতু এ মাদরাসাগুলো নিজামুল মুলকের উদ্যোগে ও তত্ত্বাবধানে প্রতিষ্ঠা লাভ করে তাই এই মাদরাসাগুলোকে ‘মাদরাসায়ে নিজামিয়া’ বা ‘নিজামিয়া মাদরাসা’ বলা হয়। উক্ত মাদরাসাগুলোর মধ্যে বাগদাদ, বালখ, নিশাপুর, ইসফাহান, বসরা, মারভ, মুসেল ও হেরাতের নিজামিয়া মাদরাসার নাম সবিশেষ উল্লেখযোগ্য।
দীনী শিক্ষার কার্যক্রম পরিচালনা করতে হয় মুক্তমনে মুক্তচিন্তায়। তাদের আয় রোজগারের চিন্তা করা যাবে না। কিন্তু বাস্তবতা হলো ভিন্ন। তাদেরকে দীনী খেদমতের পাশাপাশি আয় রোজগারের জন্য ভিন্ন চিন্তাও করতে হয়। যার কারণে দীনী শিক্ষার কাজে প্রচুর ব্যাঘাত ঘটছে। আজকে এদেশে কওমী মাদরাসাগুলোকে যদি আয়ের চিন্তা করতে না হতো, কেউ যদি ব্যয়ভারের দায়িত্ব নিত, তাহলে এদেশে দীনী শিক্ষার মান ও দীনী খেদমতের পরিধি আরও বৃদ্ধি পেত।