پدرش سید محمد طاهر شیرازی از علمای شیراز بود. وی پس از گذراندن دروس مقدماتی در شیراز و زمانی که به دلیل فعالیت های سیاسی علیه خاندان پهلوی و استعمارگران، عرصه را بر خود تنگ دید به ناچار به نجف رفت. در نجف از درس سید ابوالحسن اصفهانی، آقا ضیاء عراقی و محمدحسین نائینی استفاده کرد. پس از اقامت سیزده ساله در نجف اشرف و اخذ درجه اجتهاد، به شیراز بازگشت و به احیای حوزه علمیه شیراز و روشنگری در مقابل فعالیت های غیردینی رضاشاه پرداخت. اواخر محرم الحرام ۱۳۵۴ق پس از پایان مذاکراتش با آیت الله شیخ عبدالکریم حائری به طور غیرعلنی وارد مشهد مقدس شد با حاج آقا حسین قمی و حاج سید یونس اردبیلی دیدار و تبادل نظر کرد که نتیجه این جلسات دعوت از اقشار مردم جهت تحصن در مسجد گوهرشاد و حادثه مسجد گوهرشاد بود که به دستگیری ۸ تن از علما ازجمله او انجامید. واکنش ها باعث آزادی علما شد. پس از آزادی از زندان رضاخان در تهران، ۴ آبان ۱۳۱۴ وارد شیراز شد و پس از توقفی کوتاه به نجف رفت. در سفر دوم خود به نجف برای چهل سال در آنجا ماند.

در سال ۱۳۲۳ آیت الله سید ابوالحسن اصفهانی طی مرقوم هاي، وی را به عنوان شخصيتي شايسته مرجعيت معرفي نمود و از مردم خواست تا در امور ديني و احكام فقهی خود، به ايشان رجوع نمايند. وی نیز در همين تاريخ بنا به درخواست جمعي از فضلاي حوزه علميه و ديگر علاقه مندانش از شيراز، رساله عمليه خود را به نام «انيس المقلّدين» كه متضمّن فتاواي ايشان بود، در اختيار شيعياني از عراق و ايران و لبنان قرار داد. در سال ۱۳۳۳ اولین مدرسه علمیه خود را در نجف تأسیس کرد. حمایت از آیت الله سید ابوالقاسم کاشانی، محکوم کردن اعدام نواب صفوی، مخالفت با لایحه انجمن های ایالتی و ولایتی، تلگراف به امینی نخست وزیر وقت، احضار سفیر کبیر ایران (در بغداد) به نجف اشرف و اعلام ضرورت لغو این لایحه، برخورد تند با رفراندوم ششم بهمن (انقلاب سفید شاه و مردم(، محکومیت حمله مأموران رژیم پهلوی به مدرسه فیضیه ازجمله فعالیت های وی در این دوره است. همچنین برخی موضع گیری های بین المللی همانند تشکیل کشور پاکستان، حجاب اسلامی در افغانستان، حکومت تونس، اعدام شخصیت های علمی در مصر، تخریب قبور ائمه درعربستان و… را انجام داد. در سال ۱۳۵۴ پس از اخراج علما و طلاب ایرانی از عراق توسط رژیم بعثی، او راهی ایران شده و در شهر مشهد ساکن گردید و در مبارزات انقلاب با پیام ها، سخنرانی ها و اعلامیه هایش نقش مؤثری داشت و بیت وی (در خیابان آیت الله شیرازی فعلی) محل تجمع و شروع راهپیمایی‌های انقلابیون بود. پس از پیروزی انقلاب ایران از حامیان آن محسوب می شد و در زمینه جنگ هشت ساله عراق علیه ایران معتقد بود که خطر وجود صدام در عراق نه تنها به نابودی عراق می انجامد بلکه تا صدام بر عراق حکومت می نماید، هیچ‌گونه ثبات و امنیتی در منطقه وجود نخواهد داشت. وی خود نیز برای تشویق رزمندگان در جبهه حضور پیدا می‌کرد و بیت او محل رفت و آمد انقلابیون بود. در مناسبت ها و حوادث مختلف اعلامیه صادر می کرد و تا اواخر عمر فعال بود. سرانجام ۵ مهرماه ۱۳۶۳ در سن ۹۲ سالگی درگذشت و در رواق توحیدخانه حرم امام رضا (ع) به خاک سپرده شد. امام خمینی در پیام تسلیت خود به مناسبت رحلت ایشان آورده است: «رحلت مرحوم آیت الله آقای حاج سید عبدالله شیرازی قدس سره موجب کمال تأثر است. وجود این گونه شخصیت های علمی و دینی و متعهد به مجاهدت علیه سردمداران کفر و ستم، سرمایه هایی برای حوزه های علمی و پشتوانه هایی برای کشورند و فقدان آنان ثلمه ای بر اسلام و مسلمین است.