למד בישיבת "מרכז הרב" בירושלים, שירת למעלה מחמש שנים בחיל המודיעין והגיע לדרגת רב-סרן. את כל השכלתו האקדמית במתמטיקה רכש בטכניון. במשך כשלוש שנים כיהן כפרופסור באוניברסיטת ויסקונסין-מדיסון בעיר מדיסון שבארצות הברית. בין השנים 2000 ו-2004 כיהן כדיקן הפקולטה למתמטיקה בטכניון, ובשנים 2005 ו-2006 כיהן כיו"ר ארגון הסגל האקדמי בטכניון. לצד עיסוקיו האקדמיים, מכהן הרשקוביץ כרבה של שכונת אחוזה בחיפה. -8 לדצמבר 2008, נבחר ליו"ר מפלגת "הבית היהודי" (שהורכבה מהמפד"ל, מולדת ותקומה) על ידי מועצה ציבורית עצמאית.
הרשקוביץ נשוי לשמעונה ואב לחמישה ילדים.