לאחר שאהוד ברק הפסיד ב-2001 בבחירות המיוחדות לראשות הממשלה לאריאל שרון, הצטרפה ש"ס לממשלת שרון. אלי ישי מונה לשר הפנים וסגן ראש הממשלה, שלמה בניזרי מונה לשר העבודה והרווחה, נסים דהן מונה לשר הבריאות, אלי סויסה מונה לשר לענייני ירושלים ואשר אוחנה מונה לשר הדתות. בבחירות 2003 זכתה ש"ס ב-11 מנדטים בלבד ולראשונה בתולדותיה הושארה מחוץ לממשלה.