לאחר שהתפטר, פנה ברק לעולם העסקי, וב?5 בנובמבר 2004 הודיע על שובו לחיים הפוליטיים ועל כוונתו להתמודד שוב על הנהגת מפלגת העבודה. לאחר בעיות עם מפקד העבודה ולאחר שנוכח כי אין לו סיכוי רב להיבחר לראשות העבודה קרא ברק ב?2 בספטמבר 2005 לכל המתמודדים להתייצב מאחורי שמעון פרס. אף שקריאתו לא נענתה, הודיע ברק על פרישתו מהמרוץ לראשות המפלגה ב?11 בספטמבר.
במהלך הרכבת הממשלה ה-31, עלתה האפשרות ששרי מפלגת העבודה ייבחרו על ידי מרכז המפלגה. ברק הודיע אז, כי יתמודד על כל תפקיד שר אפשרי. לפי ההערכות שנשמעו באותה תקופה, סיכויו להיבחר לתפקיד שר היו גבוהים, אך לבסוף, נבחרו השרים על ידי יו"ר המפלגה, עמיר פרץ, ולא על ידי המרכז, וברק נשאר מחוץ לממשלה.