Сын врача, учился в Италии, Германии и Франции где его наставником в 1874-1878 был Эмиль Огюст Каролюс-Дюран. Ранние работы художника высоко оценил Генри Джеймс. Во Франции Сарджент сблизился с импрессионистами, теснее всего - с Клодом Моне (известна картина Сарджента Клод Моне, работающий на опушке леса) . Также дружил c Робером де Монтескью, Полем Эллё. По большей части жил во Франции и Великобритании, много путешествовал по Европе, Северной Африке, Ближнему Востоку, часто бывал в Италии, не раз приезжал в США.
Похоронен в Бруквуде, графство Суррей.
Сарджент — один из первых американских апатридов, художников-космополитов в Европе, денди образца Fin de siècle. Его нередко причисляют к импрессионистам, хотя образцами для него всегда оставались Веласкес, Гейнсборо, Ван Дейк (Роден даже назвал его, не без иронии, Ван Дейком нашего времени) . Наиболее известен своими портретами, среди моделей которых были натурщицы Розина Феррара, Кармела Бертанья, Вирджини Готро (Мадам Х) , актрисы Эллен Терри и Элеонора Дузе, писательница Жюдит Готье. Среди мужских портретов — портреты Теодора Рузвельта, Вудро Вильсона, Генри Джеймса, Роберта Льюиса Стивенсона, Уильяма Батлера Йейтса. Занимался также настенной живописью.
По адресу Сарджента нередко высказывались скептически художники-импрессионисты (например, Камиль Писарро) , критики из группы Блумсбери (Роджер Фрай) . Однако в 1960-е годы к Сардженту пришло широкое признание, его выставки состоялись в крупных музеях Европы и США, он достиг ранга национального и мирового классика.
В целом от художника осталось около 900 работ маслом, 2000 акварелей, множество графических работ. Ряд его произведений хранится в американских музеях, прежде всего – в Бруклинском музее в Нью-Йорке. В 2003 в Нью-Йорке с большим успехом прошла выставка "Женщины Джона Сарджента".
