جهانگیری در دوره‌های دوم و سوم مجلس شورای اسلامی نمایندهٔ حوزه انتخابیه جیرفت بود. در دولت‌های پنجم و ششم به ریاست‌جمهوری اکبر هاشمی رفسنجانی در فاصله سال‌های ۱۳۷۱ تا ۱۳۷۶، سمت استاندار استان اصفهان را برعهده داشت. از سال ۱۳۷۶ تا ۱۳۷۹ در دولت هفتم به‌عنوان وزیر معادن و فلزات فعالیت می‌کرد و از سال ۱۳۷۹ در پی ادغام این وزارتخانه با وزارت صنایع و معادن و تشکیل یک وزارتخانه جدید، از سال ۱۳۷۹ تا ۱۳۸۴ در دولت هشتم سمت وزیر صنایع و معادن را برعهده داشت و در دولت #روحانی معاون اول شد.