תנועת ש"ס הוקמה ב-1983 במטרה להתמודד בבחירות למועצת ירושלים. התנועה הוקמה ע"י נסים זאב, עסקן חרדי ירושלמי, על רקע טענות לקיפוח ספרדים במוסדות החינוך של אגודת ישראל והיא חרתה על דגלה את הקיפוח העדתי.
הרב עובדיה יוסף, מריר מהדחתו מתפקיד הרב הספרדי הראשי זמן קצר לפני כן, התבקש לעמוד בראשה ונענה. הוא ביקש לרשימה את האותיות "חס" - חרדים ספרדים - אך קיבל לבסוף את ש"ס. גם הרב שך, ממנהיגי היהדות החרדית, תמך בתנועה כמאבק באגודת ישראל. בבחירות למועצת עיריית ירושלים זכתה ש"ס בשלושה מנדטים ושולבה בקואלציה של טדי קולק.