Nació en una familia leuva patidar en Nadiad, Gujarat, entonces parte de la Presidencia de Bombay gobernada por los británicos. Su infancia transcurrió en una sociedad rural y agraria marcada por la administración colonial y las redes locales de casta.

Como era habitual en muchas comunidades de Gujarat, se casó con Jhaverba Patel siendo aún joven. El matrimonio afianzó responsabilidades familiares que más tarde coexistieron con su exigente vida jurídica y política.

Siguió estudios jurídicos con autodisciplina y determinación, preparándose mientras atendía obligaciones familiares. Empezó a forjarse una reputación por su agudo contrainterrogatorio y su juicio práctico en los tribunales locales.

Jhaverba Patel falleció tras un periodo de enfermedad, dejándolo a cargo de la crianza de sus hijos en gran medida por su cuenta. La pérdida endureció su temperamento austero y lo concentró aún más en el logro profesional.

Se trasladó a Ahmedabad, una importante ciudad comercial de Gujarat con instituciones cívicas activas y una esfera pública nacionalista en crecimiento. Allí se convirtió en un abogado de alto nivel, conocido por su eficiencia e integridad.

Acudió al Middle Temple de Londres y completó sus credenciales jurídicas con notable rapidez y concentración. La experiencia lo expuso a la política imperial y reforzó su confianza en el debate público.

Ingresó en la política cívica y se convirtió en una figura clave de la administración municipal de Ahmedabad, ocupándose de saneamiento, finanzas y presiones derivadas de la guerra. Su prestigio creció como administrador pragmático que obtenía resultados.

Durante el fracaso de las cosechas y las penurias, ayudó a movilizar a los campesinos de Kheda para exigir alivio fiscal a la administración británica. Trabajando junto a Mohandas K. Gandhi, aprendió organización de masas y no cooperación disciplinada.

Asumió públicamente el programa de no cooperación de Gandhi, renunciando a una próspera carrera legal para organizar el trabajo nacionalista. Su decisión señaló compromiso moral y ayudó a ampliar la influencia del Congreso en las ciudades y aldeas de Gujarat.

Las autoridades británicas lo arrestaron en medio de la represión contra trabajadores del Congreso tras protestas y disturbios generalizados. El encarcelamiento fortaleció su prestigio entre los voluntarios y profundizó su convicción en una resistencia disciplinada y organizada.

Encabezó a los agricultores de Bardoli contra un fuerte aumento del impuesto sobre la tierra, coordinando el impago y la disciplina de las aldeas bajo intensa presión. Tras una investigación y negociaciones, las autoridades redujeron las tasaciones y fue aclamado como «Sardar».

Mientras Gandhi impulsaba el Satyagraha de la Sal, organizó protestas y redes de voluntarios en Gujarat. Los británicos lo arrestaron para frenar la coordinación del Congreso, pero las detenciones solo amplificaron el impulso nacionalista.

Presidió la sesión de Karachi en la que el Congreso adoptó resoluciones sobre derechos fundamentales y política económica tras el Pacto Gandhi-Irwin. La reunión ayudó a definir una visión constitucional futura más allá de la política de protesta inmediata.

Con la Segunda Guerra Mundial reordenando prioridades imperiales, trabajó en el Congreso para equilibrar negociaciones, presión de masas y unidad organizativa. Los controles británicos en tiempos de guerra dificultaron la coordinación, pero siguió siendo un estratega central.

Tras el llamado del Congreso a que los británicos abandonaran la India, fue arrestado junto con otros líderes principales en una represión masiva. La larga detención puso a prueba la resiliencia del movimiento mientras redes clandestinas mantenían las protestas.

Con la independencia, ingresó en el primer gabinete de Jawaharlal Nehru y asumió la crucial cartera del Interior en medio de la violencia de la Partición y la transición administrativa. Se centró en la seguridad interna, la crisis de refugiados y la construcción de instituciones estables.

Trabajando estrechamente con V. P. Menon, negoció los Instrumentos de Adhesión con cientos de gobernantes principescos, combinando persuasión, garantías y presión firme. Esta labor evitó la fragmentación y dio forma a la unidad territorial de la India.

Cuando el Nizam de Hyderabad se resistió a la adhesión, la crisis amenazó la estabilidad del Decán en medio de tensiones comunales y violencia de milicias. Bajo su supervisión, la India llevó a cabo la «Operación Polo», incorporando Hyderabad a la Unión en septiembre de 1948.

Defendió un marco administrativo de alcance nacional, ayudando a preservar y reformar el Servicio Administrativo de la India y las estructuras policiales para una nueva democracia. Su énfasis en el orden y la competencia buscó evitar el colapso estatal tras la Partición.

Murió en Bombay tras años de trabajo intenso y un empeoramiento de su salud, poco después de que la India se convirtiera en república. Líderes de diversas corrientes reconocieron su papel decisivo en la unificación de los estados principescos y la estabilización del nuevo país.