נהרו הפך עם הזמן לאישיות הבולטת בקרב מפלגת הקונגרס, לצד גאנדי.
לאחר הרצחו של גאנדי בשנת 1948, הוא מונה במקומו ונבחר לראשות הממשלה בבחירות הראשונות לאחר קבלת העצמאות.
נהרו כיהן כראש ממשלת הודו עד מותו ב-1965.
במדיניות הפנים עסק נהרו בשלוש משימות:
האחת, סיום הסכסוך עם פקיסטן המוסלמית שפרשה מהודו, הכריזה על עצמאותה ובקשה לספח בכוח את אזור קשמיר. הסכסוך עורר גל של מהומות ללא תקדים בהודו שבגינה נשטפה הארץ במלחמת אדרחים שגבתה כמיליון הרוגים משני הצדדים. הסכסוך לא הסתיים בימיו של נהרו ואולם השתרר סטטוס קוו בין שני העמים והמדינות.
משימה שנייה אתה התמודד נהרו בהצלחה גדולה הרבה יותר, הייתה דמוקרטיזציה של המדינה השנייה בגודלה בעולם במספר תושביה.
משימה שלישית הייתה קשורה למודרניזציה של הודו והפיכתה לארץ בעלת תעשייה מפותחת . במשימה זאת הוא התחיל וראה פירות ראשונים.
בתחום מדיניות החוץ, הפך נהרו לאחד המדינאים החשובים והמשפיעים ביותר בתקופתו. הוא הצליח ללכד את מה שכונה מדינות העולם השלישי, וניסה, בהצלחה רבה יחסית ליצור גוש ניטראלי שהיה בקשר טוב עם שתי המעצמות - ברית המועצות וארצות הברית.
נפטר בשנת 1965.