בשנת 1929 לאחר מאורעות תרפ"ט נקרא לעמוד בראש הוועד הלאומי. בזמן כהונתו בתפקיד זה ניסה למצוא דרך ליצור דו קיום בין הערבים והיהודים, ולפשר בין הסתדרות העובדים והמפלגה הרוויזיוניסטית.
בתיווכו הגיעו ז'בוטינסקי ובן גוריון להסכם על פיו, אך ההסתדרות סרבה לאשרו. הוא פרש מתפקידו כראש הועד אך שב אליו בשנת 1939.
בשנת 1942 נפטר בירושלים וציווה את רכושו לקרן לחינוך הנוער.