בנו של הנשיא לשעבר חיים הרצוג ז"ל. עורך דין ידוע ושותף במשרד "הרצוג, פוקס, נאמן ושות'" יחד עם שר האוצר לשעבר יעקב נאמן. מזכיר ממשלת ברק בשנים 1999-2001. ב-21 במארס 2007 אישרה הכנסת את מינויו לתפקיד שר הרווחה והשירותים החברתיים, וכן לתפקיד השר לענייני תפוצות, חברה ומאבק באנטישמיות. ב-4 ביולי 2007 מונה לשר הממונה על רשות השידור, בנוסף לתפקידיו בממשלה.
בפריימריז של מפלגת העבודה בדצמבר 2008, הגיע הרצוג למקום הראשון מבין המתמודדים. בהתאם לכך, מוקם במקום השני ברשימת המפלגה לכנסת ה-18, לאחר יושב הראש, אהוד ברק.
הרצוג נשוי למיכל ואב לשלושה. הוא מתגורר בתל אביב.