سیدجواد خامنه‌ای آنجا به فراگیری سطوح عالی فقه و اصول و دیگر معارف معقول و منقول پرداخت و پس از کسب مقام اجتهاد به تبریز بازگشت و مدتی همان‌جا ماند و سپس راهی مشهد شد و به دنبال مرگ همسر اولش با بانو خدیجه میردامادی دختر آیت‌الله حاج سید‌هاشم نجف‌آبادی ازدواج کرد. آیت‌الله سیدجواد خامنه‌ای سال‌ها در مشهد به تدریس، تعلیم و تربیت طلاب و ارشاد مردم مشغول بود و چندین سال متمادی امامت جماعت مسجد صدیقی‌ها یا مسجد آذربایجانی‌ها (ترک‌ها) را برعهده داشت. درباره ساده‌زیستی، تهجد، زهد و عبادت او سخن‌های زیادی در منابع گفته شده است. او دلبستگی به دنیا نداشت و در نهایت سادگی گذران عمر می‌کرد. ایشان در عین برخورداری از مقامات عالی علمی و وجهه و محبوبیت مردمی، عالمی پارسا، متواضع و زاهد و به دور از هرگونه پیرایه و تجمل بود.
او خود را سال‌ها وقف تعلیم و تدریس و تربیت عالمان دین کرد و در کمال زهد و پرهیزگاری زیست و پس از عمری طولانی و پربار سرانجام در 93 سالگی در 15 تیر 1365 از دنیا رفت و در توحیدخانه (رواق پشت سر مرقد امام رضا (ع)) به خاک سپرده شد. امام خمینی در پیام تسلیتی که به مناسبت رحلت ایشان دادند، او را عالمی متعهد و باتقوا خواندند.
در آستانه پانزدهم تیرماه، سالروز رحلت آیت‌الله سیدجواد حسینی خامنه‌ای، پاره‌ای از خاطرات ایشان از لسان فرزند ارشدشان آیت‌الله سیدمحمد خامنه‌ای را که در کتاب تازه منتشر شده «خاطرات آیت‌الله سیدمحمد خامنه‌ای» آمده است، مرور میشود، کتابی که به تازگی از سوی مرکز اسناد انقلاب اسلامی برای نخستین‌بار منتشر و در بیست و ششمین دوره نمایشگاه بین‌المللی کتاب تهران عرضه شد:
«والد ما در نوجوانی تحصیلات ابتدایی خود را طبق مرسوم آن زمان در مکتب‌خانه‌‌‌‌‌‌ای در تبریز شروع می‌کند و پس از طی مقدمات علوم حوزوی، بعد از فوت پدرش به مشهد و سپس به عراق می‌رود و تحصیلاتش را در حوزه نجف ادامه می‌دهد. در حدود سال‌های 1337ـ 1336 ق دوباره سفری برای زیارت به مشهد می‌رود و حال و هوای علمی مشهد و حوزه علمیه را بررسی می‌کند. حوزه علمیه مشهد در آن ایام حوزه بسیار پررونقی بوده و علمای بزرگی در آنجا درس فقه و حکمت می‌گفتند؛ مثل میرزا محمد معروف به آقازاده خراسانی (پسر آخوند خراسانی) و حاج‌آقا حسین قمی در فقه و اصول و حاج آقا بزرگ حکیم شهیدی در حکمت و علوم عقلی. از این رو والد ما علاقه‌مند به ماندن در این شهر میشود. بعد از مدتی، با شنیدن خبر فوت مادرشان در شهر تبریز، به آن شهر برمی‌گردد و چون متأهل شده بود، همسر اول خود و فرزندانش را از تبریز به مشهد مقدس انتقال می‌دهد.
ابوی تا حدود سال 1346 ق به همراه خانواده در شهر مشهد اقامت می‌کند و همان سال برای ادامه تحصیل دوباره راهی عراق و شهر نجف میشود. در نجف عمدتاً به درس میرزا محمدحسین نائینی و سیدابوالحسن اصفهانی می‌رود و تا سال 1351 ق نیز در نجف می‌ماند که در این سال با گرفتن اجازه اجتهاد از آیات نائینی و سیدابوالحسن اصفهانی و غروی معروف به «کمپانی» به ایران برگشته و به شهر مشهد می‌رود. در همین سال عیال اول ایشان فوت می‌کند و ایشان با همسر دومشان که مادر ما باشد ازدواج می‌کند.
والد ما از جمله علمای باسواد امّا گوشه‌گیر مشهد به شمار می‌رفت و چون فصاحت و بلاغت کمی در گفتار داشت درس عمومی نمی‌گفت، امّا در جلسات خصوصی ایشان شاگردان فاضل معروفی مثل آقا میرزاحسین عبایی و حاج شیخ نصرالله شبستری تربیت یافتند. ایشان در مسجد جامع گوهرشاد و مسجد صدیقی‌ها نماز می‌خواند. مسجد صدیقی‌ها چون دسته‌ها و مجالس ترک‌های مقیم مشهد در آنجا برگزار می‌شد به نام «مسجد ترک‌ها» معروف شده بود و گاهی دو ماه، محرم و صفر، یعنی شصت شب آنجا مجلس عزاداری بود. بسیاری از علما و فضلای شهرستان‌ها وقتی برای زیارت به مشهد می‌آمدند در این مسجد با ایشان نماز می‌خواندند».
