হিজরী ষষ্ঠ শতকের শেষাংশে মক্কার কোরায়েশ বংশের একটি শাখা মক্কা শহর হতে হেজাজ ভূমির দক্ষিণ পশ্চিম সীমান্তে ইয়েমেন প্রদেশে গিয়ে বসবাস করেন। ঐ শাখার মোহাম্মদ বা মাহমুদ শাহজালালের পিতা। মাহমুদের পিতা ছিলেন ইব্রাহিম।
হযরত শাহ জালালের রওজায় প্রাপ্ত ফলক-লিপি সুহেলি ইয়্যামনি অনুসারে, শাহ জালাল ৩২ বছর বয়সে ৭০৩ হিজরী মোতাবেক ১৩০৩ খ্রিষ্টাব্দে সিলেট আগমন করেন। সুহেলি ইয়্যামনিতে উল্লেখিত তথ্য হতে জানা যায় যে, ৬৭১ হিজরী (১২৭১ খ্রিষ্টাব্দে) শাহজালাল জন্মগ্রহণ করেছেন। তার জন্মভূমি ছিল প্রাচীন আরবে আযমের হেজাজ ভূমির তৎকালীন প্রদেশ ইয়্যামন দেশের কুনিয়া নামক শহর। শাহ জালাল যখন তিন মাসের শিশুবালক, তখনই তার মাতার মৃত্যু হয়।
শাহ জালাল শিশুকালেই মাতৃহীন হন এবং পাঁচ বছর বয়সে পিতাকে হারান। মামা আহমদ কবির তাকে দত্তক নেন । আহমদ কবির আরবী ভাষায় কোরআন হাদিস শিক্ষা দেয়া সহ ইসলাম ধর্মের প্রাথমিক বিষয়ে (নামাজ, রোজায়) অভ্যস্ততার গুরুত্ব প্রদান করেন। পরবর্তিতে আহমদ কবীর শাহ জালালকে ইয়েমেন থেকে মক্কায় নিয়ে যান। মক্কা শহরে আহমদ কবীরের একটি আস্তানা (হোজরা) ছিল। সেখানে অন্যান্য শিষ্যদের সাথে শাহ জালালকেও উপযুক্ত শিক্ষা দিয়ে গড়ে তুলতে সচেষ্ট ছিলেন বলে জানা যায়।
জন্মগতভাবে শাহ জালাল দরবেশ পরিবারে জন্ম নিয়েছেন। জানা যায়, তার পিতা ছিলেন একজন ধর্মানুরাগী মোজাহিদ, ইয়্যামনে ধর্ম যুদ্ধে তিনি নিহত হন এবং তার মাতার দিক দিয়ে তিনি সৈয়দ বংশের প্রখ্যাত দরবেশ সৈয়দ জালাল সুরুখ বোখারীর দৌহিত্র ছিলেন।তদুপরি দরবেশ আহমদ কবির তার মামা, যাঁকে শাহ জালালের শিক্ষা গুরু হিসেবে পাওয়া যায়, তিনিও তত্কালের একজন বিখ্যাত দরবেশ ছিলেন বলে উল্লেখ রয়েছে। আহমদ কবির যখন শাহ জালালের লালন-পালনের ভার গ্রহণ করেন সেই ছোটবেলা থেকেই তাকে দরবেশী তর-তরিকায় জীবন যাপনের প্রণালী শিক্ষা দিয়েছেন বলেও পাওয়া যায়।