زارعی بعد از گرفتن مدرک دکترا استاد دانشگاه امام حسین شد و تلاش زیادی کرد تا تشکیلاتی سیاسی به نام بسیج اساتید راه اندازی کند. در آن زمان انجمن اسلامی مدرسین دانشگاه‌ها در دانشگاه‌های مختلف فعال بود و گرایش اصلاح‌طلبی داشت و زارعی به دنبال تأسیس پایگاهی برای سازماندهی نیرو‌های اصولگرا در دانشگاه بود.

سایت جبهه پایداری در پیام تسلیت خود درباره زارعی نوشته «دکتر علی اصغر زارعی در ایام پر فرارونشیب دوم خرداد که برخی جاهلان و معاندان داخلی، کمر همت بسته بودند تا با حمله به ارزش‌های انقلاب اسلامی، مسیر نظام را منحرف کنند، با بصیرتی مثال‌زدنی تصمیم به تقویت پایگاه انقلاب اسلامی در بین اساتید دانشگاه گرفت و با کمک دوستانش اقدام به راه‌اندازی بسیج پرافتخار اساتید کرد تا سنگر‌های علمی انقلابیون در نهاد آموزش عالی را از گزند آفات برخی، مصون نگاه دارد.»

به گزارش رویداد۲۴ با روی کار آمدن دولت محمود احمدی‌نژاد، علی اصغر زارعی مدتی رئیس حراست وزارت علوم شد. همزمان با حضور او در حراست وزارت علوم، دفاتر تشکل‌های اصلاح طلب پلمب می‌شد و دانشجویان زیادی به خاطر فعالیت‌های سیاسی یا مسائلی مثل حجاب، به حراست دانشگاه احضار می‌شدند. بعد از آن همزمان به عنوان مشاور محمود احمدی‌نژاد در امور آموزش عالی منصوب شد. احمدی نژاد دلیل این انتصاب را «ضرورت مشارکت فرهیختگان جامعه در تصمیم‌سازی‌های دستگاه‌های اجرایی» خوانده بود.

اعتماد احمدی نژاد به زارعی به حدی بود که زارعی به عنوان نماینده جریان احمدی‌نژاد یا جریان رایحه خوش خدمت در جلسات ائتلاف بزرگ اصولگرایان برای انتخابات مجلس هشتم شرکت می‌کرد و به عنوان نماینده این جریان در لیست تهران اصولگرایان قرار گرفت و وارد مجلس هشتم شد.

نمایندگی زارعی در مجلس نهم تکرار شد. اعتراض و اختلاف شدید زارعی با نمایندگانی مثل باهنر و لاریجانی در مجلس نهم زبانزد بود. وی همان نماینده‌ای بود که بعد از تصویب برجام تصاویر گریه کردنش در رسانه‌ها منتشر شده بود.

در انتخابات مجلس نهم دیگر خبری از رایحه خوش خدمت نبود و با تاسیس جبهه پایداری، نیرو‌های سیاسی آن جریان فکری وارد یک حزب رسمی می‌شدند. زارعی عضو هیات موسس جبهه پایداری بود که نیرو‌های نزدیک به آیت الله مصباح یزدی و محمود احمدی نژاد را سازماندهی می‌کردند.

زارعی از منتقدان جدی برخی وزیران دولت روحانی از جمله فرجی‌دانا بود و انتقادات تندی را در جلسه استیضاح وزیر علوم حسن روحانی علیه فرجی دانا مطرح کرد. او همچنین به خاطر فعالیت‌های عباس آخوندی در ستاد میرحسین موسوی تلاش زیادی کرد تا مانع کسب رای اعتماد توسط آخوندی شود، اما در رسیدن به این هدف ناکام بود.

زارعی در جلسه رای اعتماد گفته بود «در انتخابات آن سال نیز آخوندی نماینده آقای موسوی در شورای نگهبان بود و با توجه به اینکه بنده نیز در هیئت نظارت این شورا حضور داشتم، آنچه که بنده مشاهده می‌کردم که از ابتدای روز جمعه که پیامک‌ها قطع شد، آقای آخوندی اعتراض شدیدی به قطع پیامک‌ها داشت و طی تماس‌هایی که داشت اصرار می‌کرد با دفتر رهبری تماس گرفته و فشار آورده شود تا ارسال پیامک‌ها باز شود»

خود زارعی در انتخابات ریاست جمهوری سال ۹۲ حامی سعید جلیلی بود و به عنوان نماینده حقوقی سعید جلیلی در ارتباط با شورای نگهبان فعالیت می‌کرد. وی از نمایندگان شاخص مجلس نهم بود که برای انتخابات مجلس دهم ثبت نام نکردند و خبری از او در سال‌های اخیر به گوش نرسیده بود و پس از سال‌ها سکوت، تنها خبر، خبر درگذشت او بود.