نسب وی به سلطان سید محمد می رسد که با چهار واسطه فرزند امام سجاد (علیه السلام) است. دوسه ساله بود که در بازگشت خانواده به آذربایجان به تبریز آمد. دوران نوجوانی را در جریان رخدادهای نهضت مشروطه گذراند. جنگ های محله امیر خیز، شهادت ثقه الاسلام و جنازه به دار کشیده او در روز عاشورا، سخنرانی های پرشور و بلند شوهر خواهر خود، شیخ محمد خیابانی را که گاه تا ۴ ساعت ادامه می یافت از نزدیک دید. علوم مقدماتی را در مدارس تبریز خواند. در مشهد تحصیلات خود را ادامه و از آقا حسین قمی، میرزا محمد آقازاده خراسانی (کفائی)، میرزا مهدی اصفهانی و فاضل خراسانی فقه و اصول آموخت.

و در فلسفه نیز نزد آقابزرگ حکیم شهیدی و شیخ اسدالله یزدی شاگردی کرد. در نجف نیز نزد میرزا محمدحسین نائینی، سید ابوالحسن اصفهانی و آقا ضیاءالدین عراقی شاگردی کرد و از آنان اجازه اجتهاد گرفت. به ایران بازگشت و راهی مشهد شد. در این شهر به عنوان یک مجتهد و عالمی صاحب‌ نظر به تشکیل حوزه تدریس اقدام نکرد. وی شاگردان خصوصی و گاه موقت داشت که غیر از فرزندان، می توان از حاج میرزا نصرالله شبستری از روحانیون تبریز و حاج میرزا حسین زاده عبایی از علمای مشهد یاد کرد. ضمن تدریس، امامت مسجد صدیقی ها را عهده دار گردید. او همچنین از امامان جماعت مسجد جامع گوهرشاد نیز بود. وی علاقه زیادی به مطالعه داشت. مباحثات علمی روزانه وی با هم ردیفان ازجمله حاج میرزا حسین عبایی، حاج سید علی اکبر خویی، حاج میرزا حبیب ملکی و… ده ها سال ادامه داشت. او را نمی توان مرد سیاست و مبارزه به مفهومی که امروز تصور می شود نامید. وی پا به این عرصه نگذاشت و ادعای آن را هم بر زبان نراند. امام خمینی را از نزدیک دیده و با ایشان آشنا شده بود.؛ بلکه می توان گفت او با حاج آقا روح الله رفاقت داشت. آشنایی آنها احتمالاً به اوایل دهه چهل قمری می رسد. امام خمینی در یکی از سفرهای زیارتی خود به مشهد، میهمان حاج شیخ علی اکبر نوغانی بود. آقای نوغانی مقدمات دیدار آنها را فراهم کرد و وی به همراه حاج سید هاشم، پدرزن خود به دیدار حاج آقا روح الله رفتند. جذابیت منش و متانت و سلوک امام خمینی همواره در یاد و ضمیرش باقی بود و از آن یاد می‌کرد. در آستانه چهارمین دهه زندگی، همسرش که از او ۳ دختر داشت، درگذشت. پس از فوت همسر اولش با خدیجه میردامادی دختر آیت الله سید هاشم میردامادی نجف آبادی ازدواج کرد. از این بانو دارای چهار پسر و یک دختر به نام های سید محمد، سید علی(رهبر انقلاب)، بدر السادات، سید هادی و سید محمدحسن شد. با آغاز نهضت امام خمینی و ورود پسران به صحنه مبارزه با حکومت پهلوی، خانواده خامنه ای در مشهد تحت مراقبت و گاه فشار قرار گرفت. گاه سه پسر او پشت میله ها به سر می بردند. نزدیکانش درباره او گفته اند که وی بسیار مطالعه می کرد. خلق وخوی و سلوک مدرسه‌ای داشت. پیکری لاغر اما سالم داشت. کم غذا می خورد. بسیار قناعت پیشه بود و گذر زمان نیز کیفیت معیشت او را دچار دگرگونی نکرد. رهبر معظم انقلاب درباره پدر می گوید: پدرم روحانى معروفى بود، امّا خيلى پارسا و گوشه گیر… زندگى ما به سختی می گذشت. من يادم هست شب هایی اتفاق می افتاد که در منزل ما شام نبود! مادرم با زحمت براى ما شام تهيّه می کرد و آن شام هم نان و کشمش بود. منزل پدرى من که در آن متولد شده ام تا چهار پنج سالگی من، یک خانه ۶۰،۷۰ مترى در محله فقیرنشین مشهد بود که فقط يک اتاق داشت و يک زیرزمین خفه و تاریکی داشت. هنگامی که براى پدرم ميهمان می‌آمد همه ما بايد به زیرزمین می رفتیم تا مهمان برود. بعد عده ای که به پدر ارادتى داشتند، زمين کوچکى را کنار اين منزل خريده به آن اضافه کردند.