В 1768 году, когда вспыхнула русско- турецкая война (1768-1774), был назначен командующим второй армией, которая призвана была только охранять русские границы от набегов крымских татар. Но вскоре императрица Екатерина, недовольная медлительностью князя А. М. Голицына, командовавшего 1ой армией, назначила на его место Румянцева.
Несмотря на свои сравнительно слабые силы и недостаток продовольствия, он решил действовать наступательно. Первая решительная битва произошла 7 июля 1770 года при Ларге, где Румянцев с 25-тысячным войском разбил 80-тысячный турецко-татарский корпус.
Ещё более прославила его имя победа, одержанная им 21 июля над вдесятеро сильнейшим неприятелем при Кагуле и вознесшая Румянцева в ряд первых полководцев XVIII века. После этой победы Румянцев шёл по пятам неприятеля и последовательно занял Измаил, Килию, Аккерман, Браилов, Исакчу. Своими победами оттянул главные силы турок от Бендерской крепости, которую 2 месяца осаждал граф Панин и которую взял штурмом в ночь на 16 сентября 1770 года.
В 1771 году перенёс военные действия на Дунай, в 1773 году, приказав Салтыкову осадить Рущук и послав к Шумле Каменского и Суворова, сам осадил Силистрию, но, несмотря на неоднократные частные победы, не мог овладеть этой крепостью, так же, как и Варной, вследствие чего отвёл армию на левый берег Дуная.
В 1774 году с 50-тысячным войском выступил против 150-тысячной турецкой армии, которая, избегая битвы, сосредоточилась на высотах у Шумлы. Румянцев с частью своего войска обошёл турецкий стан и отрезал визирю сообщение с Адрианополем, что вызвало в турецкой армии такую панику, что визирь принял все мирные условия. Так заключен был Кучук-Кайнарджийский мир, доставивший Румянцеву фельдмаршальский жезл, наименование Задунайского и другие награды. Императрица увековечила победы Румянцева памятниками-обелисками в Царском Селе и в Санкт-Петербурге, предлагала ему «въехать в Москву на триумфальной колеснице сквозь торжественные ворота» , но он отказался. После турецких войн Екатерина II добавила к его имени слово Задунайский в честь его походов за Дунай.
