Nasceu em Yapeyú, um assentamento de fronteira no Vice-Reino do Rio da Prata, filho do oficial espanhol Juan de San Martín e de Gregoria Matorras. O ambiente fronteiriço expôs sua família à vida militar imperial e à cultura das missões guaranis.

Sua família se mudou para a Espanha enquanto seu pai buscava cargos na administração bourbon, inserindo José em um meio imperial mais formal. A mudança abriu acesso ao ensino militar e ao corpo profissional de oficiais da Coroa espanhola.

Iniciou o serviço militar no Regimento de Múrcia, aprendendo instrução, logística e disciplina de combate em um exército europeu tradicional. O treinamento inicial enfatizou engenharia, tiro com mosquete e uma hierarquia rígida, que mais tarde moldou seu estilo de comando.

Quando a Espanha entrou em guerra contra a França Revolucionária, ele serviu em campanhas difíceis ao longo dos Pireneus. O conflito o expôs à guerra de massas moderna e às ondas de choque políticas que se espalhavam pela Europa após 1789.

Participou de operações ligadas à disputa naval da Espanha com a Grã-Bretanha durante a era revolucionária, adquirindo experiência além da guerra terrestre. O período evidenciou a importância do poder marítimo e do ataque ao comércio na estratégia imperial.

Durante a invasão napoleônica, combateu com as forças espanholas na brutal Guerra Peninsular, em que táticas de guerrilha e guerra de coalizão se tornaram decisivas. O colapso da autoridade real aguçou sua reflexão sobre legitimidade e movimentos de independência.

Deixou o exército espanhol e se conectou com revolucionários hispano-americanos em Londres, onde redes de independência debatiam estratégia e diplomacia. Esses círculos o ajudaram a passar de oficial imperial a comandante libertador com uma visão continental.

Chegou a Buenos Aires quando o governo revolucionário buscava oficiais experientes após a Revolução de Maio desestabilizar o vice-reino. Trazendo formação europeia, rapidamente conquistou a confiança dos líderes patriotas, enquanto navegava pela política faccional.

Organizou o Regimento de Granadeiros a Cavalo, treinando uma unidade de cavalaria de elite com disciplina rigorosa e promoção por mérito. O corpo tornou-se um núcleo profissional do exército patriota e mais tarde um símbolo da tradição militar argentina.

Em San Lorenzo, liderou um ataque rápido de cavalaria que desorganizou um desembarque realista espanhol e protegeu rotas de abastecimento fluviais. A vitória elevou a moral patriota e evidenciou sua preferência por surpresa, velocidade e tropas bem treinadas.

Em Mendoza, organizou Cuyo como uma retaguarda estratégica, mobilizando recursos locais, oficinas e inteligência. Com apoio de cidadãos e aliados como Bernardo O'Higgins, preparou uma campanha transandina para contornar o centro realista no Peru.

Após o Congresso de Tucumán declarar a independência, pressionou por um plano coordenado que ligasse Argentina, Chile e Peru. Ampliou o treinamento, acumulou armas e organizou tropas de mulas, transformando Mendoza em um arsenal para a libertação.

Executou a audaciosa travessia dos Andes por múltiplas passagens, usando engano, tempo preciso e logística disciplinada para manter homens e animais em movimento. A manobra surpreendeu os realistas e permanece como uma das marchas militares mais exigentes da história.

Em Chacabuco, suas forças romperam as defesas realistas, abrindo a estrada para Santiago e restaurando o governo patriota. Recusou poder pessoal e apoiou O'Higgins como Diretor Supremo, priorizando a unidade acima da ambição.

Após reveses e a renovada pressão realista, ajudou a reunir as forças e venceu de forma decisiva em Maipú, perto de Santiago. A vitória consolidou a independência chilena e forneceu a base segura necessária para uma expedição marítima ao Peru.

Com apoio chileno e suporte naval associado ao almirante Thomas Cochrane, navegou rumo ao norte para atacar o bastião realista no Peru. A expedição combinou diplomacia e pressão, buscando evitar uma guerra frontal ruinosa nas terras altas.

Entrou em Lima e proclamou a independência peruana, assumindo em seguida o título de Protetor para estabilizar o novo Estado. Sua administração promoveu instituições, tentou reformas graduais e buscou legitimidade em meio a elites concorrentes e à resistência realista.

Em Guayaquil, reuniu-se com Simón Bolívar para tratar de estratégia e autoridade nas campanhas finais contra os realistas. Pouco depois, renunciou ao protetorado e afastou-se, optando por evitar um conflito civil entre líderes da independência.

Após a morte de sua esposa, Remedios de Escalada, e o agravamento das disputas faccionais, partiu com a filha Mercedes para a Europa. O exílio refletiu tanto o luto quanto a recusa deliberada de tornar-se um caudilho partidário nas novas repúblicas.

Passou os últimos anos em grande parte afastado da política pública, vivendo com discrição enquanto observava os acontecimentos à distância. Morreu em Boulogne-sur-Mer, deixando o legado de um estrategista continental cuja moderação igualou suas conquistas em combate.