Pershing a absolvit Academia Militară a Statelor Unite la West Point, New York, în 1886. A fost comandat un sublocotenent și repartizat la a 6-a cavalerie. , care desfășura atunci operațiuni împotriva lui Geronimo și a lui Chiricahua Apache din sud-vest. În 1890, Pershing a participat la campania de suprimare a mișcării Ghost Dance și a unei răscoale în rândul siouxilor din teritoriul Dakota, dar unitatea sa nu a participat la masacrul de la Wounded Knee. În 1891 a devenit instructor în științe militare la Universitatea din Nebraska, Lincoln. Cât a stat acolo, a obținut și o diplomă în drept (1893). A fost numit instructor de tactică la West Point în 1897.
Războiul spano-american i-a dat lui Pershing o oportunitate de promovare rapidă. A slujit în Cuba prin campania de la Santiago (1898) și a fost numit ofițer de armament cu gradul de maior de voluntari. În iunie 1899 a fost numit adjutant general. A organizat Biroul Afacerilor Insulare din Departamentul de Război și a acționat ca șef al acelui birou timp de câteva luni. Pershing a fost trimis în Filipine în calitate de adjutant general al departamentului Mindanao în noiembrie 1899. A fost numit căpitan în armata regulată în 1901 și a condus o campanie împotriva morosilor până în 1903. În 1905 a fost trimis în Japonia ca atașat militar la ambasada SUA și, în timpul războiului ruso-japonez, a petrecut câteva luni ca observator al armatei japoneze în Manciuria. În semn de recunoaștere a serviciului său în Filipine, Președintele S.U.A. Theodore Roosevelt l-a promovat pe Pershing în funcția de general de brigadă din gradul de căpitan în 1906, trecând peste 862 de ofițeri superiori în acest sens. Pershing s-a întors în Filipine și a rămas acolo până în 1913, servind în calitate de comandant al departamentului Mindanao și guvernator al provinciei Moro. Apoi a câștigat atenția în calitate de comandant al expediției punitive trimise împotriva revoluționarului mexican Pancho Villa, care a atacat Columbus, New Mexico, în 1916. După moartea generalului general Frederick Funston în 1917, Pershing l-a succedat ca comandant în SUA -Granita mexicană.
După ce Statele Unite au declarat război Germaniei (aprilie 1917), Pres. Woodrow Wilson l-a selectat pe Pershing pentru a comanda trupele americane trimise în Europa. Tranziția de la campaniile anti-insurgență care caracterizaseră o mare parte din cariera lui Pershing la vastul asediu stagnant al Frontului de Vest a fost un test extrem, dar Pershing a adus la provocare un simț administrativ acut și o pricepere pentru realizarea planurilor în ciuda adversității . Împreună cu personalul său, Pershing a debarcat în Franța la 9 iunie 1917, iar în acea lună a prezentat un „Raport de organizare generală” recomandând crearea unei armate de un milion de oameni până în 1918 și trei milioane până în 1919. Planificarea americană anterioară nu a avut în vedere acest Având în vedere că AEF nu putea fi organizat la timp pentru a sprijini operațiunile militare de pe frontul de vest, aliații ceruseră doar asistență financiară, economică și navală. Recomandările lui Pershing cu privire la numărul și dispunerea trupelor au prevalat, totuși. , mai ales după ce averile aliate s-au înrăutățit în 1917. Până la începutul anului 1918, planurile americane cereau concentrarea unei armate independente pe frontul de vest, pe care Pershing spera că va conduce o ofensivă decisivă împotriva Germaniei.
Epuizarea Aliaților, rezultată din contracarările din 1917, le-a sporit dependența de armele SUA. De asemenea, a generat presiuni asupra lui Pershing pentru a tolera „amalgamarea” de mici unități de trupe americane în armatele europene, deoarece aliații doreau cu disperare înlocuiri pentru formațiunile lor epuizate pentru a rezista atacurilor așteptate. De la început, Pershing a insistat asupra faptului că integritatea armatei americane Pershing s-a opus propunerilor de a redirecționa unele trupe americane către teatrele secundare. Consiliul Suprem de Război, o instituție înființată pentru coordonarea politicii strategia militară a aliaților, a recomandat continuu fuzionarea și ca operațiunile de diversiune să se desfășoare în altă parte decât în Franța, dar Pershing a rămas neclintit. Dacă poziția lui Pershing a impus o presiune asupra aliaților epuizați, aceasta a fost justificată de avertizarea de multe ori citată împotriva „turnării vinului nou în sticle vechi. ” Pershing a simțit, de asemenea, că un astfel de aranjament ar reprezenta un sacrificiu fără precedent de prestigiu național.El a susținut că organizarea unei armate americane independente ar fi o lovitură gravă pentru moralul german și ar oferi o ridicare permanentă a încrederii în sine americană.
Dezastrele de la începutul anului 1918 păreau să demonstreze marele risc care fusese luat în căutarea idealului lui Pershing. Germanii, armatele Frontului Occidental care au fost puternic întărite din cauza armistițiului încheiat recent între Puterile Centrale conduse de Germania și Rusia, s-au angajat într-un nou val de atacuri menite să rupă voința Aliaților înainte ca americanii să se desfășoare în forță. La a doua bătălie de pe Somme, armatele germane au avansat 64 de mile și au capturat aproximativ 70.000 de prizonieri aliați. Când ofensivele germane din martie-iunie 1918 au amenințat Parisul, Pershing și-a pus toate resursele ferm la dispoziția mareșalului francez Ferdinand Foch. Aceste presiuni s-au diminuat atunci când Aliații și-au asumat ofensiva în timpul verii, însă Pershing a revenit la politica sa anterioară.
Armata lui Pershing nu a devenit niciodată complet autonomă, dar a efectuat două operațiuni semnificative. În septembrie 1918, AEF a atacat-o cu succes pe Saint-Mihiel. Apoi, la cererea lui Foch, mai târziu în acea lună, Pershing și-a regrupat rapid forțele pentru ofensiva Meuse-Argonne, în ciuda planurilor sale inițiale de a avansa spre Metz. Deși pregătirile incomplete și lipsa de experiență au încetinit operațiunile Meuse-Argonne, ofensiva interaliată din Franța a distrus rezistența germană la începutul lunii octombrie și a dus la armistițiu luna următoare.
Pershing a fost criticat pentru erori operaționale și logistice, dar crearea sa de AEF a fost o realizare remarcabilă. S-a întors acasă cu o bună reputație și, la 1 septembrie 1919, i s-a acordat gradul de general al armatelor Statelor Unite. Porecla lui Pershing, „Black Jack”, derivată din serviciul său cu un regiment negru la începutul carierei sale, ajunsese să semnifice purtarea sa severă și disciplina rigidă. Determinarea și devotamentul său îi câștigaseră respectul și admirația oamenilor săi, dacă nu chiar a lor afecțiune. Evitând politica, Pershing a rămas în armată, ocupând funcția de șef de stat major din 1921 până la retragerea sa, trei ani mai târziu. Memoriile lui Pershing au fost publicate ca My Experiences in the World War, 2 vol. (1931).