Pershing se graduó de la Academia Militar de los Estados Unidos en West Point, Nueva York, en 1886. Fue nombrado segundo teniente y asignado a la 6.a Caballería , que entonces estaba realizando operaciones contra Geronimo y el Chiricahua Apache en el suroeste. En 1890, Pershing participó en la campaña para reprimir el movimiento Ghost Dance y un levantamiento entre los sioux en el territorio de Dakota, pero su unidad no participó en la masacre de Wounded Knee. En 1891 se convirtió en instructor de ciencias militares en la Universidad de Nebraska, Lincoln. Mientras estuvo allí también obtuvo un título en derecho (1893). Fue nombrado instructor de tácticas en West Point en 1897.
La guerra hispanoamericana le dio a Pershing la oportunidad de ascender rápidamente. Sirvió en Cuba a través de la campaña de Santiago (1898) y fue nombrado oficial de artillería con el rango de mayor de voluntarios. En junio de 1899 fue nombrado ayudante general. Organizó la Oficina de Asuntos Insulares en el Departamento de Guerra y actuó como jefe de esa oficina durante varios meses. Pershing fue enviado a Filipinas como ayudante general del departamento de Mindanao en noviembre de 1899. Fue nombrado capitán del ejército regular en 1901 y llevó a cabo una campaña contra los Moros hasta 1903. En 1905 fue enviado a Japón como agregado militar para la embajada de los Estados Unidos, y durante la guerra ruso-japonesa pasó varios meses como observador con el ejército japonés en Manchuria. En reconocimiento a su servicio en Filipinas, U.S. Pres. Theodore Roosevelt ascendió a Pershing a general de brigada desde el rango de capitán en 1906, pasando a más de 862 oficiales superiores al hacerlo. Pershing regresó a Filipinas y permaneció allí hasta 1913, sirviendo como comandante del departamento de Mindanao y gobernador de la provincia de Moro. Luego ganó atención como comandante de la expedición punitiva enviada contra el revolucionario mexicano Pancho Villa, que había asaltado Columbus, Nuevo México, en 1916. Después de la muerte del mayor general Frederick Funston en 1917, Pershing lo sucedió como comandante en los Estados Unidos. -Frontera mexicana.
Después de que Estados Unidos declarara la guerra a Alemania (abril de 1917), Pres. Woodrow Wilson seleccionó a Pershing para comandar las tropas estadounidenses enviadas a Europa. La transición de las campañas contra la insurgencia que habían caracterizado gran parte de la carrera de Pershing al vasto asedio estancado del Frente Occidental fue una prueba extrema, pero Pershing aportó al desafío un agudo sentido administrativo y una habilidad para llevar a cabo planes a pesar de la adversidad. . Con su estado mayor, Pershing aterrizó en Francia el 9 de junio de 1917, y ese mes presentó un «Informe de la Organización General» recomendando la creación de un ejército de un millón de hombres para 1918 y de tres millones para 1919. La planificación estadounidense anterior no había contemplado tal un gran ejército. Habiendo asumido que las AEF no podrían organizarse a tiempo para apoyar las operaciones militares en el frente occidental, los aliados sólo habían pedido ayuda financiera, económica y naval. Sin embargo, prevalecieron las recomendaciones de Pershing sobre el número y la disposición de las tropas , especialmente después de que las fortunas aliadas empeoraran durante 1917. A principios de 1918, los planes estadounidenses habían exigido concentrar un ejército independiente en el frente occidental, que Pershing esperaba encabezaría una ofensiva decisiva contra Alemania.
El agotamiento de los aliados, derivado de los reveses de 1917, aumentó su dependencia de las armas estadounidenses. También generó presión sobre Pershing para que condonara la «fusión» de pequeñas unidades de tropas estadounidenses en ejércitos europeos, ya que los Aliados querían desesperadamente reemplazos para sus formaciones agotadas para resistir los ataques esperados. Desde el principio, Pershing insistió en que la integridad del ejército estadounidense El Consejo Supremo de Guerra, una institución establecida para coordinar las actividades políticas, se opuso a las propuestas de desviar algunas tropas estadounidenses a teatros secundarios. estrategia militar de los Aliados, recomendaba continuamente la fusión y que las operaciones de distracción se llevaran a cabo en otros lugares que no fueran Francia, pero Pershing permaneció impasible. Si la postura de Pershing impuso una tensión a los exhaustos Aliados, se justificó por la advertencia a menudo citada contra «servir vino en botellas viejas «. Pershing también sintió que tal arreglo representaría un sacrificio sin precedentes de prestigio nacional.Argumentó que el despliegue de un ejército estadounidense independiente sería un duro golpe para la moral alemana y proporcionaría un impulso permanente a la autoconfianza estadounidense.
Los desastres de principios de 1918 parecían demostrar el gran riesgo que se había corrido en pos del ideal de Pershing. Los alemanes, con sus ejércitos del frente occidental fuertemente reforzados debido al armisticio recientemente concluido entre las potencias centrales lideradas por los alemanes y Rusia, se embarcaron en una nueva ola de ataques diseñados para romper la voluntad de los aliados antes de que los estadounidenses pudieran desplegar fuerzas. En la Segunda Batalla del Somme, los ejércitos alemanes avanzaron 40 millas (64 km) y capturaron a unos 70.000 prisioneros aliados. Cuando las ofensivas alemanas de marzo-junio de 1918 amenazaron a París, Pershing puso todos sus recursos a disposición del mariscal francés Ferdinand Foch. Sin embargo, estas presiones disminuyeron cuando los Aliados asumieron la ofensiva durante el verano, y Pershing volvió a su política anterior.
El ejército de Pershing nunca se volvió completamente autosuficiente, pero llevó a cabo dos operaciones importantes. En septiembre de 1918, las AEF asaltaron con éxito el saliente de Saint-Mihiel. Luego, a petición de Foch, más tarde ese mes Pershing rápidamente reagrupó sus fuerzas para la ofensiva Meuse-Argonne, a pesar de sus planes originales de avanzar hacia Metz. Aunque los preparativos incompletos y la inexperiencia ralentizaron las operaciones Mosa-Argonne, la ofensiva interaliada en Francia destruyó la resistencia alemana a principios de octubre y condujo al Armisticio el mes siguiente.
Pershing fue criticado por errores operativos y logísticos. pero su creación de la AEF fue un logro notable. Regresó a casa con una sólida reputación y, el 1 de septiembre de 1919, se le otorgó el rango de general de los ejércitos de los Estados Unidos. El apodo de Pershing, «Black Jack», derivado de su servicio con un regimiento negro al principio de su carrera, había llegado a significar su porte severo y rígida disciplina. Su determinación y dedicación le habían ganado el respeto y la admiración de sus hombres, si no de sus hombres. Evitando la política, Pershing permaneció en el ejército, sirviendo como jefe de estado mayor desde 1921 hasta su retiro tres años después. Las memorias de Pershing se publicaron como My Experiences in the World War, 2 vol. (1931).