در روستای امیرآباد در نزدیکی شهر تربت حیدریه دیده به جهان گشود. در پنجسالگی مادرش و در سیزدهسالگی پدرش را از دست داد و پس ازآن خواهر بزرگش سرپرستی او را به عهده گرفت. در سال پنجم دبیرستان در مشهد با مهدی اخوان ثالث همکلاس شد و این دوستی ادامه یافت. سال ششم ادبی را در دبیرستان البرز تهران به پایان رساند و سپس در دانشکدۀ حقوق دانشگاه تهران در رشتۀ قضایی ادامه تحصیل داد، امّا هرگز دنبال کار حقوقی نرفت و فقط به شعر پرداخت. از آذر ۱۳۴۰ به مدّت ۲۷ سال تا بازنشستگی به عنوان کتابدار دانشکدۀ ادبیات دانشگاه فردوسی مشغول به فعالیت بود. علاقۀ او در سرودن شعر، در غزل و به ویژه سبک هندی به اندازهای بود که یکی از شعرای بنام غزلسرای هندی شد. او زبان بومی تربتحیدریه را به خوبی میدانست و بسیاری از اشعار وی که به زبان محلی سروده شدهاند، در ردیف اول شعر بومی قرار دارند.
در سال ۱۳۳۸ ازدواج کرد و مقیم مشهد شد. از سال ۱۳۳۹ در منزل شخصیاش انجمن ادبی به صورت هفتگی برگزار میشده است. دکتر محمدرضا شفیعی کدکنی میگوید: «ما سه انجمن ادبی دیگر نیز قبل از تشکیل این انجمن ادبی داشتیم که در منازل بزرگان برگزار میشد و با کمک ایشان برای سلیقههای مختلف چهار انجمن ادبی تشکیل داده شد. منزل حجازی جمع مدرنها بود، در منزل بنده شعر مذهبی و هنری خوانده میشد، منزل فرخ شعر سبک خراسانی و منزل آقای قهرمان شعر سبک هندی. وی با اشاره به انضباط اخلاقی و سلوک معنوی مرحوم قهرمان گفت: بنده بیش از ۵۰ سال با ایشان دوست بودم و سفرها رفتیم.» او صاحب تألیفاتی چند و همچنین تصحیح و چاپ چند دیوان از شاعران مختلف به چشم میخورد. برخی از آنها عبارتاند از: تصحیح دیوان صائب تبریزی (شش جلد)، تصحیح دیوان صیدی تهرانی، تصحیح مجموعه آثار ابوطالب کلیم همدانی، تصحیح دیوان حاج محمد جان قدسی مشهدی، برگزیدۀ اشعار صائب و دیگر شعرای معروف سبک هندی، صیّادان معنی (برگزیدۀ اشعار سخنسرایان سبک هندی)، حاصل عمر (مجموعۀ شعر)، به یاد عزیز گذشته (دهنامه از مهدی اخوان ثالث به محمد قهرمان)، روی جاده ابریشم شعر (مجموعه شعر)، خدای خودم (مجموعه آثار به زبان محلی) و… سرانجام در ۲۸ اردیبهشت سال ۱۳۹۲ درگذشت و پیکر او در مقبره الشعرای آرامگاه فردوسی به خاک سپرده شد. رهبر معظم انقلاب در پیام خود به مناسبت درگذشت او آورده است: «با دریغ و افسوس، خبر درگذشت شاعر بزرگ خراسان آقای محمد قهرمان را دریافت کردم. خاموش شدن این چشمهی فیاض شعر فاخر و غزل پر نکته و آراسته، هر آشنای شعر و ادب معاصر را دچار تأسف و اندوه میسازد و آشنایان شعر ممتاز او و خود آن شخصیت متین و باوفا و آن ذهن مواج و ژرفبین و مضمونیاب را بسی بیشتر. قهرمان بی شک یکی از چهرههای ماندگار و برجستهی شعر و ادب فارسی، و غزل او یادآور شاعران بزرگ سبک هندی است. اینجانب درگذشت این دوست دیرین و باصفا را به جامعهی ادبی کشور و به ادیبان و شاعران خراسانی و بهویژه به همسر گرامی و فرزندان ایشان تسلیت میگویم و آمرزش الهی را برای وی مسألت میکنم.»