১৯২৭ সালে শেখ মুজিব গিমাডাঙ্গা প্রাথমিক বিদ্যালয়ে পড়াশোনা শুরু করেন যখন তার বয়স সাত বছর। নয় বছর বয়সে তথা ১৯২৯ সালে গোপালগঞ্জ পাবলিক স্কুলে ভর্তি হন এবং এখানেই ১৯৩৪ সাল পর্যন্ত পড়াশোনা করেন। ১৯৩৭ সালে গোপালগঞ্জে মাথুরানাথ ইনস্টিটিউট মিশন স্কুলে সপ্তম শ্রেনীতে ভর্তি হন। ১৯৩৪ থেকে চার বছর তিনি বিদ্যালয়ের পাঠ চালিয়ে যেতে পারেন নি। কারণ তার চোখে জটিল রোগের কারণে সার্জারি করাতে হয়েছিল এবং এ থেকে সম্পূর্ণ সেরে উঠতে বেশ সময় লেগেছিল। গোপালগঞ্জ মিশনারি স্কুল থেকে তিনি ম্যাট্রিকুলেশন পাশ করেন।