בפברואר 1896 פרסם הרצל את ספרו "מדינת היהודים" שנכתב בגרמנית ותורגם לשפות רבות. על אף שדגל תחילה ברעיונות טרטוריאליסטים, שינה מאוחר יותר את דעתו בעקבות תגובות אוהדות של יהודי אירופה, ובעיקר מצד אנשי תנועת חובבי ציון. הוא נדרש להתייצב בראש הנאבקים להגשמת הציונות והוביל את המהלך הקורא ליישוב היהודים בארץ ישראל.

במסגרת פעילותו המדינית נסע בשנת 1896 לקושטא כדי להיפגש עם הסולטן התורכי ולשכנע אותו לתת צ'ארטר ליישוב יהודים בארץ ישראל, אך בקשתו נדחתה.
הוא לא התייאש ויצא ב-1898 בעקבותיו של הקיסר הגרמני וילהלם השני שביקר בארץ ישראל, כדי לשכנעו לקבל את רעיון הריבונות היהודית בחסות גרמניה. במהלך אותו ביקור סייר הרצל במושבות הראשונות והתרשם מחיי החלוצים בארץ. בשנים שלאחר מכן קיים פגישות עם הצאר הרוסי, מלך איטליה והאפיפיור בניסיון לשכנעם לקבל את תוכניתו, ואף המשיך בניסיונותיו לקבל מהסולטן התורכי זכות ליישוב היהודים.

בתמיכת חובבי ציון וביוזמתו התכנס באוגוסט 1897 הקונגרס הציוני הראשון בבזל שבו התקבלה תוכניתו המדינית – תוכנית בזל והוחלט גם על הקמת ההסתדרות הציונית.
באותה שנה הקים הרצל גם את העיתון של התנועה הציונית, "די ועלט". ביוזמתו של הרצל התקבלה גם החלטה בקונגרס הציוני השני על ייסוד "אוצר התיישבות היהודית", במטרה לגייס באמצעותו כספים למימוש מטרות התנועה הציונית.

לאחר הפרעות ביהודי קישינב בשנת 1903 הגיע הרצל למחשבה כי יש צורך להעדיף פתרון דחוף לבעיית היהודים על פני קבלת הסכמה מדינית ליישובם בארץ ישראל. במהלך הקונגרס הציוני השישי, הוא הציג את תוכנית אוגנדה שנועדה לשמש מקלט זמני ליהודי אירופה הנרדפים. עוד קודם לכן ניסה הרצל לבדוק אפשרות ליישוב היהודים במסגרת תוכנית אל עריש בחסות ממשלת בריטניה, אך רעיונותיו גרמו למחלוקת קשה בתנועה הציונית.

בעקבות הוויכוח שאיים לפלג את התנועה, הוא נאלץ לחזור בו מהתוכנית. צירי הקונגרס השביעי ביטלו אומנם את תוכנית אוגנדה, אך האווירה הקשה שנוצרה בעטייה לא שכחה עד יום מותו של הרצל. הוא נפטר ממחלת לב ב-3 ביולי 1904 בוינה.
בשנת 1949 הועלו עצמותיו לישראל ונטמנו בהר הרצל בירושלים.