Pershing studeerde in 1886 af aan de Amerikaanse militaire academie in West Point, New York. Hij kreeg de opdracht als tweede luitenant en werd toegewezen aan de 6e Cavalerie , die toen operaties voerde tegen Geronimo en de Chiricahua Apache in het zuidwesten. In 1890 diende Pershing in de campagne om de Ghost Dance-beweging en een opstand onder de Sioux in het Dakota-gebied te onderdrukken, maar zijn eenheid nam niet deel aan het bloedbad bij Wounded Knee. In 1891 werd hij instructeur in militaire wetenschappen aan de Universiteit van Nebraska, Lincoln. Daar behaalde hij ook een diploma rechten (1893). Hij werd in 1897 aangesteld als instructeur in tactiek op West Point.
De Spaans-Amerikaanse oorlog gaf Pershing de kans om snel promotie te maken. Hij diende in Cuba tijdens de veldtocht in Santiago (1898) en werd aangesteld als officier van de munitie met de rang van majoor van vrijwilligers. In juni 1899 werd hij benoemd tot adjudant-generaal. Hij organiseerde het Bureau of Insular Affairs in het War Department en trad enkele maanden op als hoofd van dat bureau. Pershing werd in november 1899 als adjudant-generaal van het departement Mindanao naar de Filippijnen gestuurd. In 1901 werd hij kapitein in het reguliere leger en voerde een campagne tegen de Moros tot 1903. In 1905 werd hij als militair attaché naar Japan gestuurd om de Amerikaanse ambassade, en tijdens de Russisch-Japanse oorlog bracht hij enkele maanden door als waarnemer bij het Japanse leger in Mantsjoerije. Als erkenning voor zijn dienst in de Filippijnen, heeft U.S. Pres. Theodore Roosevelt promoveerde Pershing tot brigadegeneraal vanaf de rang van kapitein in 1906, waarbij hij 862 hogere officieren passeerde. Pershing keerde terug naar de Filippijnen en bleef daar tot 1913, waar hij diende als commandant van het departement Mindanao en gouverneur van de provincie Moro. Vervolgens kreeg hij de aandacht als commandant van de strafexpeditie tegen de Mexicaanse revolutionaire Pancho Villa, die Columbus, New Mexico, in 1916 had overvallen. Na de dood van generaal-majoor Frederick Funston in 1917 volgde Pershing hem op als commandant van de VS. -Mexicaanse grens.
Nadat de Verenigde Staten de oorlog aan Duitsland hadden verklaard (april 1917), werd Pres. Woodrow Wilson koos Pershing om het bevel te voeren over de Amerikaanse troepen die naar Europa werden gestuurd. De overgang van de anti-opstandcampagnes die een groot deel van Pershings carrière hadden gekenmerkt naar de enorme stagnerende belegering van het Westelijk Front was een extreme test, maar Pershing bracht de uitdaging een scherp administratief gevoel en een talent voor het uitvoeren van plannen ondanks tegenspoed aan. . Met zijn staf landde Pershing op 9 juni 1917 in Frankrijk, en die maand diende hij een “Algemeen Organisatierapport” in waarin hij de oprichting van een leger van één miljoen man tegen 1918 en drie miljoen tegen 1919 aanbeveelde. Eerder had de Amerikaanse planning dat niet overwogen In de veronderstelling dat de AEF niet op tijd kon worden georganiseerd om militaire operaties aan het westelijk front te ondersteunen, hadden de geallieerden alleen om financiële, economische en maritieme hulp gevraagd. Pershings aanbevelingen met betrekking tot het aantal en de opstelling van troepen hadden echter de overhand. , vooral nadat de geallieerde fortuinen in 1917 waren verslechterd. Begin 1918 hadden de Amerikaanse plannen opgeroepen tot het concentreren van een onafhankelijk leger aan het westelijk front, waarvan Pershing hoopte dat het een beslissend offensief tegen Duitsland zou leiden.
Door de uitputting van de geallieerden, als gevolg van de tegenslagen van 1917, werden ze steeds meer afhankelijk van Amerikaanse wapens. Het veroorzaakte ook druk op Pershing om de samensmelting van kleine eenheden van Amerikaanse troepen in Europese legers goed te keuren, aangezien de geallieerden wanhopig op zoek waren naar vervanging voor hun uitgeputte formaties om de verwachte aanvallen te weerstaan. Vanaf het begin stond Pershing erop dat de integriteit van het Amerikaanse leger behouden blijven, zich krachtig verzetten tegen de Franse voogdij en de Franse wens om het nieuwe Amerikaanse bloed in hun gelederen te brengen. Pershing verzette zich ook tegen voorstellen om sommige Amerikaanse troepen naar secundaire theaters te leiden. De Supreme War Council, een instelling die was opgericht om de politieke militaire strategie van de geallieerden, voortdurend aanbevolen samensmelting en dat afleidingsoperaties elders dan in Frankrijk worden uitgevoerd, maar Pershing bleef onbewogen. in oude flessen. ” Pershing was ook van mening dat een dergelijke regeling een ongekende opoffering van nationaal prestige zou vertegenwoordigen.Hij voerde aan dat het inzetten van een onafhankelijk Amerikaans leger een serieuze klap zou zijn voor het Duitse moreel en een permanente verbetering van het Amerikaanse zelfvertrouwen zou opleveren.
De rampen van begin 1918 leken het grote risico aan te tonen dat genomen was bij het nastreven van Pershings ideaal. De Duitsers, hun legers aan het westelijk front waren sterk versterkt vanwege de wapenstilstand die onlangs werd gesloten tussen de door Duitsland geleide centrale mogendheden en Rusland, en begonnen aan een nieuwe golf van aanvallen om de wil van de geallieerden te breken voordat de Amerikanen zich in kracht konden inzetten. Bij de Tweede Slag aan de Somme trokken Duitse legers 64 km verder en namen ongeveer 70.000 geallieerde gevangenen gevangen. Toen de Duitse offensieven van maart-juni 1918 Parijs bedreigden, stelde Pershing al zijn middelen stevig ter beschikking van de Franse maarschalk Ferdinand Foch. Deze druk zakte echter weg toen de geallieerden het offensief aanvaarden tijdens de zomer en Pershing terugkeerde naar zijn eerdere beleid.
Pershings leger werd nooit helemaal zelfvoorzienend, maar het voerde twee belangrijke operaties uit. In september 1918 viel de AEF met succes de Saint-Mihiel-saillant aan. Later die maand hergroepeerde Pershing, op verzoek van Foch, zijn troepen snel voor het offensief van de Maas-Argonne, ondanks zijn oorspronkelijke plannen om op te rukken naar Metz. Hoewel onvolledige voorbereidingen en onervarenheid de operaties van Maas-Argonne vertraagden, vernietigde het intergeallieerde offensief in Frankrijk begin oktober het Duitse verzet en leidde het de volgende maand tot de wapenstilstand.
Pershing werd bekritiseerd vanwege operationele en logistieke fouten, maar zijn oprichting van de AEF was een opmerkelijke prestatie. Hij keerde met een goede reputatie naar huis terug en op 1 september 1919 kreeg hij de rang van generaal van de legers van de Verenigde Staten. Pershings bijnaam, Black Jack, ontleend aan zijn dienst bij een zwart regiment aan het begin van zijn carrière, had zijn strenge houding en starre discipline gaan betekenen. Zijn vastberadenheid en toewijding hadden hem het respect en de bewondering opgeleverd van zijn mannen, zo niet hun genegenheid. Om de politiek te ontwijken, bleef Pershing in het leger en diende hij als stafchef van 1921 tot aan zijn pensionering drie jaar later. Pershings memoires werden gepubliceerd als My Experiences in the World War, 2 vol. (1931).