او تا پایان‌ شهریور ۱۳۲۰ تنها به‌ فراگیری‌ قرآن‌ در مکتب‌ خانه‌ بسنده‌ کرده‌ بود و از سال‌ ۱۳۲۱ برای‌ فراگیری‌ مقدمات‌، به‌ نزد ثقه‌ الاسلام‌ سید محمود موحدی‌ رفت‌ و بخشی‌ از جامع‌ المقدمات‌ را فرا گرفت‌ و  از مهرماه‌ ۱۳۲۳ به‌ حوزه‌ علمیه‌ بابل‌ رفت‌ و تا مهر ۱۳۲۶ در محضر استادان‌ و عالمان‌ آن‌ حوزه‌ به‌ فراگیری‌ ادبیات‌ عرب‌ اشتغال‌ داشت‌.

در مهرماه‌ ۱۳۲۶ عازم‌ قم‌ شد تا در حوزه‌ علمیه‌ قم‌ و در محضر استادان‌ و عالمان‌ آن‌ دیار، پله‌های‌ پیشرفت‌ علمی‌ و عملی‌ را بپیماید. دروس‌ دوره‌ سطح‌ را تا سال‌ ۱۳۳۲ در محضر استادان‌ برجسته‌ قم‌ به‌ پایان‌ برد و سپس‌ به‌ درس‌ خارج‌ علمای‌ بزرگ‌ حوزه‌ علمیه‌ قم‌ مشرف‌ شد. در دی‌ ماه‌ سال‌ ۱۳۳۳ به‌ سفارش‌ پدر، به‌ نجف‌ اشرف‌، مشرف‌ شد تا به‌ محضر استادان‌ آن‌ حوزه‌ نیز شرفیاب‌ شود. حضور او در نجف‌ تا سال‌ ۱۳۵۷ ادامه‌ پیدا کرد.
در طی‌ سالهایی‌ که‌ امام‌ (ره‌) در نجف‌ اشرف‌ حضور داشت‌، همواره‌ به‌ درس‌ ایشان‌ می‌رفت‌ و هنگامی‌ که‌ دولت‌ عراق‌ به‌ محاصره‌ بیت‌ ایشان‌ پرداخته‌ و آن‌ مرجع‌ بزرگ‌ را به‌ خروج‌ از عراق‌ وادار کرده‌ بود، او با گروهی‌ امام‌(ره‌) را تا مرز صفوان‌ بدرقه‌ کرد. او در طی‌ این‌ سالها، خود نیز به‌ تدریس‌ دروسی‌ که‌ آموخته‌ بود پرداخت‌ و نیز از محضر دروس‌ اخلاق‌ استادان‌ خود بهره‌مند بود.

وی بعد از پیروزی انقلاب اسلامی سمت های مختلفی را پذیرفته بود که ریاست‌ دادگاه‌ عالی‌ انتظامی‌ قضات‌ با حکم‌ امام‌(ره‌) در سال‌ ۱۳۶۱، نمایندگی‌ مجلس‌ خبرگان‌ رهبری‌ در دوره‌ اول‌ و سوم‌ از طرف‌ مردم‌ استان‌ مازندران‌، مسؤولیت‌ بررسی‌ پرونده‌های‌ زندانیان‌ محاکم‌ عمومی‌ با حکم‌ امام‌(ره‌) در سال‌ ۱۳۶۲ برخی‌ از مسؤولیت های‌ این عالم ربانی بوده است.

آیت‌ الله‌ کریمی‌ از سال‌ ۱۳۵۸ به‌ عضویت‌ جامعه‌ مدرسین‌ حوزه‌ علمیه‌ قم‌ در آمد و در طی‌ این‌ سالها، نقش‌ مهم‌ و مثبتی‌ در احیای‌ حوزه‌های‌ علمیه‌ و اعتلای‌ اسلام‌ ناب‌ محمدی‌ ایفا کرده‌ است‌. او در سالهای اخیر در قم‌ به‌ تدریس‌ بحث‌ خارج‌ فقه‌ معاملات‌ اشتغال‌ داشت و در دفتر مقام‌ معظم‌ رهبری‌ به‌ پاسخ‌ استفتائات‌ و خدمت‌رسانی‌ به‌ مردم‌ انقلابی‌ می پرداخت.همسر مرحوم آیت الله کریمی دی ماه سال ۹۸ درگذشت که مقام معظم رهبری برای درگذشت همسر آیت الله کریمی پیام تسلیت ارسال کرده بود.