לאחר שהצטרף להסתדרות הציונית הפך לפעיל ןשימש כציר בקונגרסים הציוניים. בדיוני הקונגרסים עמד בראש אופוזיציה ביחד עם ליאו מוצקין ואחרים להרצל שדרשה יתר דמוקרטיזציה בתנועה הציונית ובעיקר פעילות תרבותית בנוסח שעיצב אחד העם. לקראת הקונגרס הציוני החמישי הקים את "הפרקציה הדמוקרטית", שדרשה להגן על עקרונות הציונית החילונית משאיפות החוגים הדתיים.
ויצמן התנגד בתוקף לרעיון ההתיישבות באוגנדה והצטרף למאבק נגד הרצל.
ב-1904 עבר מג'נבה לבריטניה והחל לשמש כמרצה ואח"כ כפרופסור לכימייה באוניברסיטת מנצ'סטר.