Pershing tog examen från United States Military Academy i West Point, New York, 1886. Han fick i uppdrag en andra löjtnant och tilldelades sjätte kavalleriet , som sedan genomförde operationer mot Geronimo och Chiricahua Apache i sydväst. År 1890 tjänade Pershing i kampanjen för att undertrycka Ghost Dance-rörelsen och ett uppror bland Sioux i Dakota-territoriet, men hans enhet deltog inte i massakern vid Wounded Knee. 1891 blev han instruktör i militärvetenskap vid University of Nebraska, Lincoln. Medan han var där fick han också en juridisk examen (1893). Han utsågs till instruktör i taktik vid West Point 1897.
Det spansk-amerikanska kriget gav Pershing möjlighet till snabb befordran. Han tjänstgjorde på Kuba genom Santiago-kampanjen (1898) och utsågs till ordnanceofficer med rang som major av volontärer. I juni 1899 blev han adjutant general. Han organiserade presidiet för insulära frågor i krigsavdelningen och agerade som chef för byrån i flera månader. Pershing skickades till Filippinerna som adjutantgeneral vid Mindanao-avdelningen i november 1899. Han blev kapten i den reguljära armén 1901 och genomförde en kampanj mot Moros fram till 1903. 1905 skickades han till Japan som militärattaché till USA: s ambassad, och under det russisk-japanska kriget tillbringade han flera månader som observatör hos den japanska armén i Manchuria. Som ett erkännande av sin tjänst på Filippinerna, gav USA: s pres. Theodore Roosevelt befordrade Pershing till brigadgeneral från kaptenraden 1906 och passerade över 862 högre ledare i detta. Pershing återvände till Filippinerna och stannade där fram till 1913 och tjänade som befälhavare för departementet Mindanao och guvernör i Moro-provinsen. Därefter fick han uppmärksamhet som befälhavare för den bestraffande expeditionen som skickades mot den mexikanska revolutionären Pancho Villa, som hade raiderat Columbus, New Mexico, 1916. Efter generalmajor Frederick Funstons död 1917 efterträdde Pershing honom som befälhavare för USA. -Mexikanska gränsen.
Efter att USA förklarade krig mot Tyskland (april 1917), pres. Woodrow Wilson valde Pershing för att befalla de amerikanska trupperna som skickades till Europa. Övergången från de anti-upproriska kampanjerna som hade karaktäriserat mycket av Pershing karriär till den väldigt stillastående belägringen av västra fronten var ett extremt test, men Pershing väckte utmaningen en skarp administrativ känsla och ett skick för att genomföra planer trots motgångar . Med sin personal landade Pershing i Frankrike den 9 juni 1917, och den månaden lämnade han in en ”General Organization Report” där han rekommenderade att man skapade en armé med en miljon män 1918 och tre miljoner 1919. Tidigare amerikansk planering hade inte övervägt sådan Efter att ha antagit att AEF inte kunde organiseras i tid för att stödja militära operationer på västfronten, hade de allierade endast bett om ekonomiskt, ekonomiskt och marint stöd. Pershings rekommendationer angående antal och disponering av trupper rådde dock , särskilt efter att de allierade förmögenheterna förvärrades under 1917. I början av 1918 hade amerikanska planer krävt att en oberoende armé skulle koncentreras till västra fronten, vilket Pershing hoppades skulle leda en avgörande offensiv mot Tyskland.
De allierades utmattning, som härrör från bakslag 1917, ökade deras beroende av amerikanska vapen. Det skapade också press på Pershing för att godta ”sammanslagningen” av små enheter av amerikanska trupper till europeiska arméer, eftersom de allierade desperat ville ha ersättningar för deras utarmade formationer för att motstå förväntade attacker. Pershing insisterade från början på att den amerikanska arméns integritet. bevaras, vilket gör en stark ställning mot fransk handledning och den franska önskan att införa det nya amerikanska blodet i deras led. Pershing motsatte sig också förslag om att avleda vissa amerikanska trupper till sekundära teatrar. Högsta krigsrådet, en institution som inrättades för att samordna det politiska de allierades militära strategi, ständigt rekommenderade sammanslagning och att avledningsoperationer genomförs någon annanstans än i Frankrike, men Pershing förblev oberörd. Om Pershing ställde en belastning på de utmattade allierade, motiverades det av den ofta citerade varningen mot ”att hälla nytt vin i gamla flaskor. ” Pershing ansåg också att ett sådant arrangemang skulle representera ett oöverträffat offer av nationell prestige.Han hävdade att utställningen av en oberoende amerikansk armé skulle vara ett allvarligt slag mot tysk moral och ge en permanent upplyftning för amerikanskt självförtroende.
Katastroferna i början av 1918 tycktes visa den stora risk som tagits i strävan efter Pershings ideal. Tyskarna, deras västra frontarméer har förstärkts kraftigt på grund av det vapenstillestånd som nyligen slutits mellan de tyskledda centralmakterna och Ryssland, inledde en ny våg av attacker som syftade till att bryta de allierades vilja innan amerikanerna kunde distribuera i styrka. Vid det andra slaget vid Somme avancerade tyska arméer 64 km och intog cirka 70 000 allierade fångar. När de tyska offensiven mars – juni 1918 hotade Paris ställde Pershing alla sina resurser till fransk marskalk Ferdinand Foch. Dessa påtryckningar avtog när de allierade antog offensiven under sommaren och Pershing återgick till sin tidigare politik.
Pershing armé blev aldrig helt självförsörjande, men den genomförde två viktiga operationer. I september 1918 angrep AEF framgångsrikt Saint-Mihiel. Senare den månaden, på Fochs begäran, omgrupperade Pershing snabbt sina styrkor för Meuse-Argonne-offensiven, trots hans ursprungliga planer på att avancera mot Metz. Även om ofullständiga förberedelser och oerfarenhet bromsade operationerna i Meuse-Argonne, förstörde den mellanallierade offensiven i Frankrike det tyska motståndet i början av oktober och ledde till vapenstilleståndet nästa månad.
Pershing kritiserades för operativa och logistiska fel, men hans skapande av AEF var en anmärkningsvärd prestation. Han återvände hem med ett gott rykte och den 1 september 1919 fick han rang av general för de amerikanska arméerna. Pershing smeknamn ”Black Jack”, härledd från hans tjänst vid ett svart regemente tidigt i sin karriär, hade kommit för att beteckna hans hårda bärande och styva disciplin. Hans beslutsamhet och engagemang hade fått honom respekt och beundran för hans män, om inte deras Pershing kvar i armén och tjänstgjorde som stabschef från 1921 till sin pension tre år senare. Pershings memoarer publicerades som Mina upplevelser i världskriget, 2 vol. (1931).