Pershing ukończył Akademię Wojskową Stanów Zjednoczonych w West Point w stanie Nowy Jork w 1886 roku. Został mianowany podporucznikiem i przydzielony do 6. Kawalerii , który wówczas prowadził operacje przeciwko Geronimo i Chiricahua Apache na południowym zachodzie. W 1890 roku Pershing uczestniczył w kampanii mającej na celu stłumienie ruchu Ghost Dance i powstania Siouxów na terytorium Dakoty, ale jego jednostka nie brała udziału w masakrze w Wounded Knee. W 1891 roku został instruktorem nauk wojskowych na University of Nebraska w Lincoln. Tam też uzyskał stopień naukowy prawnika (1893). Został mianowany instruktorem taktyki w West Point w 1897 roku.
Wojna hiszpańsko-amerykańska dała Pershingowi możliwość szybkiego awansu. Służył na Kubie podczas kampanii w Santiago (1898) i został mianowany oficerem zaopatrzeniowym w randze majora ochotników. W czerwcu 1899 r. Został adiutantem generalnym. Zorganizował Biuro Spraw Wyspowych w Departamencie Wojny i przez kilka miesięcy pełnił funkcję szefa tego biura. Pershing został wysłany na Filipiny jako adiutant generalny departamentu Mindanao w listopadzie 1899 roku. W 1901 roku został kapitanem regularnej armii i prowadził kampanię przeciwko Morosom do 1903 roku. W 1905 roku został wysłany do Japonii jako attaché wojskowy. w ambasadzie USA, a podczas wojny rosyjsko-japońskiej spędził kilka miesięcy jako obserwator w armii japońskiej w Mandżurii. W uznaniu zasługi na Filipinach, prezydent USA. Theodore Roosevelt awansował Pershinga do stopnia generała brygady ze stopnia kapitana w 1906 roku, omijając tym samym 862 starszych oficerów. Pershing powrócił na Filipiny i pozostał tam do 1913 roku, służąc jako dowódca departamentu Mindanao i gubernator prowincji Moro. Następnie zwrócił na siebie uwagę jako dowódca ekspedycji karnej wysłanej na meksykańskiego rewolucjonistę Pancho Villa, który napadł Columbus w Nowym Meksyku w 1916 roku. Po śmierci generała dywizji Fredericka Funstona w 1917 roku, Pershing zastąpił go na stanowisku dowódcy w USA. -Granica meksykańska.
Po wypowiedzeniu przez Stany Zjednoczone wojny Niemcom (kwiecień 1917), Pres. Woodrow Wilson wybrał Pershinga do dowodzenia oddziałami amerykańskimi wysyłanymi do Europy. Przejście od kampanii przeciwko powstańcom, które charakteryzowały znaczną część kariery Pershinga, do ogromnego zastoju w oblężeniu frontu zachodniego, było ekstremalnym sprawdzianem, ale Pershing wniósł do wyzwania bystry zmysł administracyjny i talent do realizacji planów pomimo przeciwności. . Wraz ze swoim sztabem Pershing wylądował we Francji 9 czerwca 1917 r. Iw tym miesiącu przedstawił „Raport Organizacji Generalnej” zalecający utworzenie miliona armii do 1918 r. I trzech milionów do 1919 r. Wcześniejsze plany amerykańskie nie rozważały takiego liczebna armia. Zakładając, że AEF nie może być zorganizowany na czas w celu wsparcia operacji wojskowych na froncie zachodnim, alianci prosili jedynie o pomoc finansową, gospodarczą i morską. Przeważały jednak zalecenia Pershinga dotyczące liczebności i rozmieszczenia wojsk. , zwłaszcza po pogorszeniu się losów aliantów w 1917 r. Na początku 1918 r. amerykańskie plany wymagały skoncentrowania niezależnej armii na froncie zachodnim, który, jak Pershing miał nadzieję, poprowadziłby decydującą ofensywę przeciwko Niemcom.
Wyczerpanie aliantów, wynikające z niepowodzeń 1917 roku, zwiększyło ich zależność od broni amerykańskiej. Wywołało to również presję na Pershinga, aby zaakceptował „połączenie” małych jednostek amerykańskich żołnierzy z armiami europejskimi, ponieważ alianci desperacko chcieli zastąpić swoje zubożone formacje, aby oprzeć się spodziewanym atakom. Pershing od początku podkreślał, że integralność amerykańskiej armii być zachowany, stając zdecydowany sprzeciw wobec francuskiej kurateli i francuskiej chęci wlania nowej amerykańskiej krwi w ich szeregi. Pershing sprzeciwił się również propozycjom skierowania niektórych żołnierzy amerykańskich do teatrów drugorzędnych. Najwyższa Rada Wojenna, instytucja powołana do koordynowania działań politycznych strategia militarna aliantów, nieustannie zalecana łączenie i prowadzenie operacji dywersyjnych gdzie indziej niż we Francji, ale Pershing pozostał niewzruszony. Jeśli stanowisko Pershinga nadwyrężyło wyczerpanych aliantów, było to uzasadnione często cytowanym ostrzeżeniem przed „nalewaniem nowego wina w stare butelki ”. Pershing uważał również, że taki układ oznaczałby bezprecedensowe poświęcenie narodowego prestiżu.Twierdził, że wystawienie na pole niezależnej armii amerykańskiej byłoby poważnym ciosem dla niemieckiego morale i zapewniłoby trwałe podniesienie amerykańskiej pewności siebie.
Katastrofy z początku 1918 roku zdawały się świadczyć o wielkim ryzyku, jakie podjęto w pogoni za ideałem Pershinga. Niemcy, których armie na froncie zachodnim zostały silnie wzmocnione z powodu zawieszenia broni zawartego niedawno między niemieckimi mocarstwami centralnymi a Rosją, rozpoczęli nową falę ataków, których celem było złamanie woli aliantów, zanim Amerykanie zdążyli rozlokować się w siłę. W drugiej bitwie nad Sommą wojska niemieckie przeszły 40 mil (64 km) i schwytały około 70 000 jeńców alianckich. Kiedy ofensywy niemieckie z marca-czerwca 1918 r. Zagroziły Paryżu, Pershing oddał wszystkie swoje zasoby do dyspozycji marszałka Francji Ferdynanda Focha. Naciski te ustąpiły, gdy alianci rozpoczęli ofensywę latem, a Pershing powrócił do swojej poprzedniej polityki.
Armia Pershinga nigdy nie stała się całkowicie samowystarczalna, ale przeprowadziła dwie znaczące operacje. We wrześniu 1918 r. AEF z powodzeniem zaatakował najcięższy Saint-Mihiel. Następnie, na prośbę Focha, w tym samym miesiącu Pershing szybko przegrupował swoje siły do ofensywy Meuse-Argonne, pomimo swoich pierwotnych planów ataku na Metz. Chociaż niekompletne przygotowania i brak doświadczenia spowolniły operacje Meuse-Argonne, między aliancka ofensywa we Francji zniszczyła niemiecki opór na początku października i doprowadziła do zawieszenia broni w następnym miesiącu.
Pershing był krytykowany za błędy operacyjne i logistyczne, ale jego stworzenie AEF było niezwykłym osiągnięciem. Wrócił do domu z dobrą reputacją i 1 września 1919 roku otrzymał stopień generała armii Stanów Zjednoczonych. Przydomek Pershinga „Czarny Jack”, wywodzący się z jego służby w czarnym regimentie na początku jego kariery, zaczął oznaczać jego surową postawę i sztywną dyscyplinę. Jego determinacja i oddanie przyniosły mu szacunek i podziw jego ludzi, jeśli nie ich Uczucie. Unikając polityki, Pershing pozostał w armii, służąc jako szef sztabu od 1921 r. do przejścia na emeryturę trzy lata później. Wspomnienia Pershinga zostały opublikowane jako My Experiences in the World War, 2 vol. (1931).