נולד באוקראינה ובצעירותו התחנך בתיכון רוסי. במקביל עסק בפעילות ציבורית. כשהשלים את לימודיו התיכוניים נמנעה ממנו האפשרות להמשיך את לימודיו בשל האיסור על יהודים להתקבל לאוניברסיטאות ברוסיה. האיסור לא מנע ממנו לרכוש השכלה. הוא למד בכוחות עצמו שפות זרות, פילוסופיה, סוציולוגיה, היסטוריה יהודית וכלכלה, ונמשך תוך כדי כך לרוח המהפכה הסוציאליסטית ולתנועה הסוציאל-דמוקרטית ברוסיה.

ניסיונותיו לשלב את העניין הלאומי היהודי עם השיטה הסוציאליסטית, הביאו אותו לייסד בשנת 1901 אגודת פועלים ציונית סוציאליסטית שתפעל להגן על העובד היהודי. ההתארגנות החדשה גרמה להתנגדות עזה מצד חוגי המפלגה הסוציאל-דמוקרטית הרוסית ובמקביל יצאו נגדה גם כמה מראשי התנועה הציונית שהתנגדו לשילוב שבין ציונות לסוציאליזם.

תורתו שזכתה לכינוי "בורכוביזם" דגלה בבניית הציונות על יסודות מרכסיסטיים במטרה ליצור פרולטריון יהודי. בורוכוב הצביע על "פירמידה הפוכה" שהתבטאה בהידחקותו של העם היהודי בגולה ממקצועות ראשוניים כגון חקלאות ותעשייה למקצועות משניים כמו מסחר, תיווך ומלאכה זעירה. הוא טען שניתן לשנות את התהליך הזה באמצעות הגירה יהודית גדולה לארץ ישראל ובניית עתידו של העם באמצעות עבודת כפיים וחלוציות.

בקונגרס הציוני השישי שהתכנס בשנת 1903 היה בורכוב ממתנגדי תוכנית אוגנדה והצטרף לדעתו של מנחם אוסישקין ששללה כל אפשרות ליישוב יהודים בארץ אחרת זולת ארץ ישראל. הוא הציג את משנתו גם בקונגרס הציוני השביעי שהתכנס בבזל ב-1905 ועמד בראש קבוצה של נציגי "פועלי ציון" שהתנגדו לרעיון אוגנדה. בשובו לרוסיה עמד בראש ההגנה היהודית בפרעות שהתחוללו בפולטבה ונאסר על ידי המשטרה הרוסית.

ב-1907 נמנה עם מייסדי הברית העולמית של "פועלי ציון" ושימש מזכיר התנועה במשך עשר שנים עד יום מותו.
עד פרוץ מלחמת העולם הראשונה פעל להחדרת רעיונותיו בקרב יהודי מזרח ומערב אירופה ועשה נפשות לתנועתו. באותן שנים גם הוביל לפרישת "פועלי ציון" מהתנועה הציונית. במקביל עסק בפרסום מחקרים, מאמרים ורשימות ביידיש, רוסית וגרמנית. מאמריו הופיעו באנציקלופדיה היהודית ברוסית, בעיתונים ובכתבי עת ברוסיה, אוסטריה, ארצות הברית ובמדינות אחרות. בין כתביו גם עבודת מחקר מקיפה על 400 שנות שפת היידיש.

במהלך מלחמת העולם הראשונה שהה בארצות הברית והיה מראשי פועלי ציון והקונגרס היהודי בצפון אמריקה. לאחר מהפכת אוקטובר 1917 חזר לרוסיה במטרה לסייע לתנועה הסוציאליסטית היהודית בארץ זו. הוא יצא לסבב הרצאות מטעם "פועלי ציון" וקרא להתיישבות סוציאליסטית בארץ ישראל ולהשתלבות מחדש של "פועלי ציון" בהסתדרות הציונית. במהלך פעילותו זאת נפטר ממחלה קשה בעיר קייב.
בשנת 1963 הובאו עצמותיו לישראל ונטמנו בבית העלמין בכנרת.