اشرفی اصفهانی در مدّت نمایندگی امام خمینی در استان کرمانشاه دوبار مورد سوء قصد قرار گرفت و در ظهر جمعه ۲۳ مهر ۱۳۶۱ش در نماز جمعه مسجد جامع کرمانشاه و توسط سازمان مجاهدین خلق به شهادت رسید. پیکر او پس از تشییع در کرمانشاه و خمینی شهر در گلزار شهدای تخت فولاد اصفهان به خاک سپرده شد.[۱۵] وی بنا به وصیت خودش در تخت فولاد اصفهان و در کنار آیت‌الله سید ابوالحسن شمس‌آبادی به‌خاک سپرده شد. بخشی از بدن وی که بعدها پیدا شد، در گورستان باغ فردوس کرمانشاه به خاک سپرده شد.در تهران بزرگراهی به نام وی نام‌گذاری شده است. او یکی از امامان جمعه‌ای است که در ایران به شهدای محراب مشهورند.
امام خمینی در پیام تسلیتی خود را از ارادتمندان شهید اشرفی دانست و از صفای نفس و آرامش روح و اطمینان قلب و خالی از هواهای نفسانی و تارک هوی بودن او یاد کرده و مجاهدت‌های او را ستوده است.[۱۶]