آیت‌الله محمد یزدی‌(ره)پیش از پیروزی انقلاب اسلامی، از مبارزان و فعالان سیاسی پرتلاش و برجسته‌ای بود که با الهام از خط‌مشی امام خمینی‌(قد) به مبارزه‌ای پیگیر علیه رژیم پهلوی پرداخت. ایشان با برگزاری جلسات و سخنرانی‌های روشنگرانه در شهرهای گوناگون، نقش بسزایی در آگاهی‌بخشی و بیداری مردم ایفا کرد و به همین سبب، بارها توسط ساواک دستگیر، زندانی و به شهرهایی نظیر کنگان، بندرلنگه، بوشهر و رودبار تبعید شد.
این عالم ربانی و فقیه بصیر بعد از انقلاب اسلامی نیز مسئولیت‌های فراوانی را در عرصه‌های مختلف به عهده داشته که برخی از آنها عبارت‌اند از: ریاست دفتر امام خمینی(قد)، نمایندگی مجلس خبرگان قانون اساسی، ریاست مجلس خبرگان رهبری، عضویت در شورای نگهبان، ریاست قوه قضائیه پس از رحلت امام خمینی در دو دوره پنج ساله، نمایندگی مجلس خبرگان رهبری، نماینده مردم قم و تهران در مجلس شورای اسلامی، عضویت در شورای بازنگری قانون اساسی در سال ۱۳۶۸شمسی، امام جمعه موقت تهران، ریاست جامعه مدرسین حوزه علمیه قم،  عضو جامعه روحانیت مبارز تهران، عضو دوره چهارم و پنجم شورای عالی حوزه‌های علمیه، ریاست دادگاه انقلاب اسلامی قم و کرمانشاه، عضو هیأت امنای حوزه علمیه شهید شاه‌آبادی و عضو هیئت امنای دانشگاه فاطمیه قم و... از جمله فعالیت های ایشان در طول حیات پربرکتشان بود.