לאחר שעלה ב-1924 לארץ ישראל, הפך לאחד המנהיגים הבולטים והחשובים, למרות גילו הצעיר. שנה לאחר שנבחר לוועד הפועל הציוני, הצביע עליו וייצמן כאחד מיורשיו הפוטנציאלים. הוא טפחו ולקח אותו למסעותיו ובכלל זה לארצות הברית. בסוף שנות העשרים יצא ארלוזורוב לשליחות של שנתיים לאמריקה מטעם מפלגת אחדות העבודה, ב-1931 נבחר לראש הוועדה המדינית של הסוכנות היהודית, תפקיד שני בחשיבותו בסוכנות לאחר הנשיא. במסגרת תפקידו הוא טפח קשרים טובים עם ראשי הממשל הבריטי בארץ-ישראל והחל בתוכנית "העברה" - העברת יהודי גרמניה לארץ ישראל.