בבחירות באוגוסט 1961 זכתה מפא"י ל-42 מנדטים. ביוני 1963, התפטר בן-גוריון מראשות הממשלה ומתפקיד שר הביטחון. לפי המלצתו מונה לוי אשכול תחתיו לראש הממשלה.
אשכול הצליח להדק את יחסי החוץ של ישראל ובכלל זה עם ארצות הברית. הוא כונן יחסים דיפלומטיים מלאים עם גרמניה המערבית, הוביל את התעצמותו של צה"ל ואת התחמשותו בנשק מתקדם חלקו מתוצרת ארצות הברית, ואת הפעולה הצבאית לסיכול הניסיונות להטות את מי הירדן . אשכול הקים את רשימת המערך, צרוף של מפא"י ואחדות העבודה, והוביל אותה לניצחון בבחירות בשנת 1965.
ב-1965 פרש בן-גוריון מהמפלגה, והקים יחד עם פורשים אחרים, ביניהם שמעון פרס, את רפ"י (רשימת פועלי ישראל). בבחירות לכנסת בנובמבר מפלגת המערך קיבלה 45 מנדטים ורפ"י קיבלה 10 מנדטים.
בתקופת כהונתו של אשכול פרצה מלחמת ששת הימים ביוני 1967. ערב המלחמה הקים אשכול ממשלת ליכוד לאומי עם מפלגות גח"ל ורפ"י וויתר על משרד הביטחון לטובת משה דיין, נציג רפ"י בממשלה. במלחמה הביסה ישראל את מצרים, ירדן וסוריה וכבשה את רצועת עזה, חצי האי סיני, יהודה, שומרון ורמת הגולן.