Pershing valmistui Yhdysvaltain sotilaallisesta akatemiasta West Pointissa New Yorkissa vuonna 1886. Hänelle määrättiin toinen luutnantti ja hänet määrättiin 6. ratsuväen joukkoon. , joka oli silloin suorittamassa operaatioita Geronimoa ja Chiricahua Apacheta vastaan lounaaseen. Vuonna 1890 Pershing palveli Dakota-alueen siouxien keskuudessa tapahtuneen Ghost Dance -liikkeen ja kansannousun tukahduttamisessa, mutta hänen yksikkönsä ei osallistunut Haavoittuneen polven joukkomurhaan. Vuonna 1891 hänestä tuli sotatieteiden ohjaaja Nebraskan yliopistossa Lincolnissa. Siellä hän ansaitsi myös lakitutkinnon (1893). Hänet nimitettiin taktikoiden ohjaajaksi West Pointiin vuonna 1897.
Espanjan ja Yhdysvaltojen sota antoi Pershingille mahdollisuuden nousta nopeasti. Hän palveli Kuubassa Santiagon kampanjan (1898) kautta ja hänet nimitettiin taistelupäälliköksi, jolla oli vapaaehtoisten pääaine. Kesäkuussa 1899 hänestä tehtiin kenraaliadjutantti. Hän järjesti saariasiain toimiston sotaministeriössä ja toimi sen edustajana useita kuukausia. Pershing lähetettiin Filippiineille Mindanaon osaston kenraalidjutanttina marraskuussa 1899. Hänestä tehtiin kapteeni säännöllisessä armeijassa vuonna 1901 ja hän kävi kampanjaa Morosia vastaan vuoteen 1903 saakka. Vuonna 1905 hänet lähetettiin Japaniin sotilasasiamieheksi Yhdysvaltain suurlähetystössä, ja Venäjän ja Japanin sodan aikana hän vietti useita kuukausia tarkkailijana Japanin armeijan kanssa Mandyriassa. Tunnustuksena palveluksestaan Filippiineillä Yhdysvaltain presidentti. Theodore Roosevelt ylensi Pershingin prikaatikenraaliksi kapteenin arvosta vuonna 1906, ohittaen näin yli 862 vanhempaa upseeria. Pershing palasi Filippiineille ja pysyi siellä vuoteen 1913 asti, toimi Mindanaon osaston komentajana ja Moron maakunnan kuvernöörinä. Seuraavaksi hän sai huomionsa Meksikossa vallankumouksellisen Pancho Villaa vastaan lähetetyn rikosretkikunnan komentajana, joka oli hyökännyt New Yorkin Columbukseen Columbukseen vuonna 1916. Kenraalimajuri Frederick Funstonin kuoleman jälkeen vuonna 1917 Pershing seurasi häntä Yhdysvaltojen komentajana. Meksikon raja.
Sen jälkeen kun Yhdysvallat ilmoitti sodan Saksalle (huhtikuu 1917), presidentti. Woodrow Wilson valitsi Pershingin komentamaan amerikkalaisia joukkoja, jotka lähetetään Eurooppaan. Siirtyminen kapinallisten vastaisista kampanjoista, jotka olivat luonnehtineet suurta osaa Pershingin urasta, länsirintaman laajaan pysähtyneeseen piiritykseen oli äärimmäinen testi, mutta Pershing toi haasteeseen terävän hallinnollisen mielen ja kyvyn suunnitelmien toteuttamiseen vastoinkäymisistä huolimatta. . Henkilöstönsä kanssa Pershing laskeutui Ranskaan 9. kesäkuuta 1917, ja siinä kuussa hän toimitti ”Yleisen organisaation raportin”, jossa suositeltiin miljoonan miehen armeijan perustamista vuoteen 1918 mennessä ja kolmen miljoonan miehen armeijan rakentamista vuoteen 1919 mennessä. Aikaisempi amerikkalainen suunnittelu ei ollut ajatellut sellaista. suuri armeija. Kun oletettiin, että AEF: ää ei voitu järjestää ajoissa länsirintaman sotatoimien tukemiseksi, liittolaiset olivat pyytäneet vain taloudellista, taloudellista ja merivoimien apua. Pershingin suositukset joukkojen lukumäärästä ja sijoittelusta olivat kuitenkin voimassa. varsinkin sen jälkeen, kun liittolaisten omaisuus heikkeni vuoden 1917 aikana. Vuoden 1918 alkuun mennessä amerikkalaiset suunnitelmat olivat vaatineet keskittämään itsenäisen armeijan länsirintamaan, jonka Pershing toivoi johtavan ratkaisevaa hyökkäystä Saksaa vastaan.
Vuoden 1917 takaiskujen aiheuttama liittolaisten uupumus lisäsi heidän riippuvuuttaan Yhdysvaltain aseista. Se aiheutti myös painostusta Pershingille suostumaan amerikkalaisten joukkojen pienten yksiköiden ”yhdistämiseen” Euroopan armeijoihin, koska liittolaiset halusivat epätoivoisesti korvauksia köyhdytettyihin kokoonpanoihin vastustamaan odotettuja hyökkäyksiä. Pershing vaati alusta alkaen, että Yhdysvaltain armeijan eheys puolustaa ranskalaista holhousta ja ranskalaisten halua infusoida uutta amerikkalaista verta heidän joukkoonsa. Pershing vastusti myös ehdotuksia joidenkin Yhdysvaltain joukkojen ohjaamisesta toissijaisiin teattereihin. Korkeimman sodan neuvosto, instituutio, joka on perustettu koordinoimaan liittolaisten sotilastrategia, suositteli jatkuvasti yhdistämistä ja harjoitteluoperaatioita muualla kuin Ranskassa, mutta Pershing pysyi liikkeellä. Jos Pershingin kanta rasitti uupuneita liittolaisia, se perusteltiin usein mainittavalla varoituksella ”uuden viinin kaatamisesta”. vanhoihin pulloihin. ” Pershing koki myös, että tällainen järjestely edustaisi ennennäkemätöntä kansallisen arvovaltaa uhraavaa.Hän väitti, että itsenäisen amerikkalaisen armeijan asettaminen olisi vakava isku saksalaiselle moraalille ja antaisi pysyvän kohotuksen amerikkalaiselle itseluottamukselle.
Vuoden 1918 alkupuolen katastrofit näyttivät osoittavan suuren riskin, joka oli otettu Pershingin ihanteen saavuttamiseksi. Saksalaiset, joiden länsirintaman armeijoita on vahvistettu voimakkaasti Saksan johtamien keskivaltioiden ja Venäjän välillä äskettäin solmimien aselepojen takia, aloittivat uuden hyökkäysten aallon, jonka tarkoituksena oli murtaa liittolaisten tahto ennen kuin amerikkalaiset voisivat siirtyä voimaan. Toisessa Sommen taistelussa saksalaiset armeijat etenivät 64 mailia 40 mailia ja vangitsivat noin 70 000 liittoutuneiden vankia. Kun Saksan maalis- kesäkuun 1918 hyökkäykset uhkasivat Pariisia, Pershing antoi kaikki voimavaransa vakaasti ranskalaisen marsalkka Ferdinand Fochin käyttöön. Nämä paineet hävisivät, kun liittolaiset ottivat hyökkäyksen kesällä, ja Pershing palasi aiempaan politiikkaansa.
Pershingin armeijasta ei koskaan tullut täysin omavaraista, mutta se suoritti kaksi merkittävää operaatiota. Syyskuussa 1918 AEF hyökkäsi Saint-Mihielin joukossa menestyksekkäästi. Sitten Fochin pyynnöstä myöhemmin tuossa kuussa Pershing ryhmitteli voimansa nopeasti Meuse-Argonnen hyökkäykseen huolimatta alkuperäisistä suunnitelmistaan edetä kohti Metziä. Vaikka keskeneräiset valmistelut ja kokemattomuus hidastivat Meuse-Argonnen operaatioita, liittoutuneiden välinen hyökkäys Ranskassa tuhosi Saksan vastarinnan lokakuun alussa ja johti seuraavan kuukauden aselepoon.
Pershingia kritisoitiin operatiivisista ja logistisista virheistä, mutta hänen AEF: n perustaminen oli merkittävä saavutus. Hän palasi kotiin hyvän maineensa, ja 1. syyskuuta 1919 hänelle annettiin Yhdysvaltain armeijoiden kenraali. Pershingin lempinimi ”Black Jack”, joka oli tullut hänen palveluksestaan mustan rykmentin alkaessa uransa alkupuolella, oli tullut osoittamaan hänen ankaraa kantaansa ja jäykkää kurinalaisuuttaan. Hänen päättäväisyytensä ja omistautumisensa olivat herättäneet hänen miestensä kunnioituksen ja ihailun, ellei kiintymys. Politiikkaa välttäen Pershing pysyi armeijassa, joka toimi esikuntapäällikkönä vuodesta 1921 eläkkeelle siirtymiseen kolme vuotta myöhemmin. Pershingin muistelmat julkaistiin nimellä My Experiences in the World War, 2 osa (1931).