Pershing se formou na Academia Militar dos Estados Unidos em West Point, Nova York, em 1886. Ele foi nomeado segundo-tenente e designado para a 6ª Cavalaria , que então conduzia operações contra Geronimo e o Chiricahua Apache no sudoeste. Em 1890, Pershing serviu na campanha para suprimir o movimento Ghost Dance e uma revolta entre os Sioux no Território Dakota, mas sua unidade não participou do massacre de Wounded Knee. Em 1891, ele se tornou instrutor de ciência militar na Universidade de Nebraska, Lincoln. Lá, ele também se formou em direito (1893). Ele foi nomeado instrutor de tática em West Point em 1897.
A Guerra Hispano-Americana deu a Pershing uma oportunidade de promoção rápida. Serviu em Cuba durante a campanha de Santiago (1898) e foi nomeado oficial de artilharia com o posto de major dos voluntários. Em junho de 1899 foi nomeado ajudante geral. Ele organizou o Bureau de Assuntos Insulares do Departamento de Guerra e atuou como chefe desse escritório por vários meses. Pershing foi despachado para as Filipinas como ajudante-geral do departamento de Mindanao em novembro de 1899. Ele foi nomeado capitão do exército regular em 1901 e conduziu uma campanha contra os Moros até 1903. Em 1905 foi enviado ao Japão como adido militar para a embaixada dos Estados Unidos, e durante a Guerra Russo-Japonesa, ele passou vários meses como um observador com o exército japonês na Manchúria. Em reconhecimento ao seu serviço nas Filipinas, o Pres. Dos EUA Theodore Roosevelt promoveu Pershing a brigadeiro-general do posto de capitão em 1906, ultrapassando 862 oficiais superiores. Pershing retornou às Filipinas e lá permaneceu até 1913, servindo como comandante do departamento de Mindanao e governador da província de Moro. Em seguida, ele ganhou atenção como comandante da expedição punitiva enviada contra o revolucionário mexicano Pancho Villa, que havia invadido Columbus, Novo México, em 1916. Após a morte do major-general Frederick Funston em 1917, Pershing o sucedeu como comandante nos Estados Unidos – Fronteira mexicana.
Depois que os Estados Unidos declararam guerra à Alemanha (abril de 1917), o Pres. Woodrow Wilson escolheu Pershing para comandar as tropas americanas enviadas para a Europa. A transição das campanhas anti-insurgência que caracterizaram grande parte da carreira de Pershing para o vasto cerco estagnado da Frente Ocidental foi um teste extremo, mas Pershing trouxe para o desafio um senso administrativo apurado e uma habilidade para realizar planos apesar da adversidade . Com sua equipe, Pershing desembarcou na França em 9 de junho de 1917 e, naquele mês, apresentou um “Relatório da Organização Geral” recomendando a criação de um exército de um milhão de homens em 1918 e três milhões em 1919. O planejamento americano anterior não havia contemplado isso um grande exército. Tendo assumido que a AEF não poderia ser organizada a tempo de apoiar as operações militares na Frente Ocidental, os Aliados solicitaram apenas assistência financeira, econômica e naval. As recomendações de Pershing sobre o número e a disposição das tropas prevaleceram, no entanto , especialmente depois que a sorte dos Aliados piorou durante 1917. No início de 1918, os planos americanos exigiam a concentração de um exército independente na Frente Ocidental, que Pershing esperava que liderasse uma ofensiva decisiva contra a Alemanha.
O esgotamento dos Aliados, decorrente dos reveses de 1917, aumentou sua dependência das armas dos EUA. Também gerou pressão sobre Pershing para tolerar o “amálgama” de pequenas unidades de tropas americanas em exércitos europeus, pois os Aliados queriam desesperadamente substituições para suas formações esgotadas para resistir aos ataques esperados. Desde o início, Pershing insistiu que a integridade do exército americano ser preservada, fazendo uma posição firme contra a tutela francesa e o desejo francês de infundir o novo sangue americano em suas fileiras. Pershing também se opôs às propostas de desviar algumas tropas dos EUA para teatros secundários. O Conselho Supremo de Guerra, uma instituição criada para coordenar a A estratégia militar dos Aliados recomendava continuamente o amálgama e que as operações de desvio fossem conduzidas em outros lugares que não na França, mas Pershing permaneceu impassível. Se a postura de Pershing impôs uma pressão sobre os Aliados exaustos, foi justificada pelo alerta freqüentemente citado contra “servir vinho novo em garrafas velhas. ” Pershing também achava que tal arranjo representaria um sacrifício sem precedentes do prestígio nacional.Ele argumentou que a colocação de um exército americano independente seria um golpe sério para o moral alemão e proporcionaria uma elevação permanente à autoconfiança americana.
Os desastres do início de 1918 pareciam demonstrar o grande risco que havia sido assumido na busca do ideal de Pershing. Os alemães, seus exércitos da Frente Ocidental tendo sido fortemente reforçados por causa do armistício recentemente concluído entre as Potências Centrais lideradas pelos alemães e a Rússia, embarcaram em uma nova onda de ataques destinados a quebrar a vontade dos Aliados antes que os americanos pudessem implantar em força. Na Segunda Batalha do Somme, os exércitos alemães avançaram 40 milhas (64 km) e capturaram cerca de 70.000 prisioneiros aliados. Quando as ofensivas alemãs de março-junho de 1918 ameaçaram Paris, Pershing colocou todos os seus recursos firmemente à disposição do marechal francês Ferdinand Foch. Essas pressões diminuíram quando os Aliados assumiram a ofensiva durante o verão, no entanto, e Pershing voltou à sua política anterior.
O exército de Pershing nunca se tornou totalmente autossuficiente, mas conduziu duas operações significativas. Em setembro de 1918, a AEF atacou com sucesso o saliente de Saint-Mihiel. Então, a pedido de Foch, no final daquele mês Pershing rapidamente reagrupou suas forças para a ofensiva Meuse-Argonne, apesar de seus planos originais de avançar em direção a Metz. Embora os preparativos incompletos e a inexperiência tenham retardado as operações Meuse-Argonne, a ofensiva inter-Aliada na França destruiu a resistência alemã no início de outubro e levou ao Armistício no mês seguinte.
Pershing foi criticado por erros operacionais e logísticos, mas sua criação da AEF foi um feito notável. Ele voltou para casa com uma reputação sólida e, em 1o de setembro de 1919, foi nomeado general dos exércitos dos Estados Unidos. O apelido de Pershing, “Black Jack”, derivado de seu serviço com um regimento negro no início de sua carreira, passou a significar seu porte severo e disciplina rígida. Sua determinação e dedicação lhe renderam o respeito e a admiração de seus homens, se não de seus Evitando a política, Pershing permaneceu no exército, servindo como chefe do estado-maior de 1921 até sua aposentadoria, três anos depois. As memórias de Pershing foram publicadas como Minhas experiências na guerra mundial, 2 vol. (1931).