В первый раз немецкие войска подошли к городу 17 ноября 1941. Наступление вел 3-й танковый корпус 1-й танковой армии под командованием Э. фон Маккензена в составе 13-й и 14-й танковых дивизий, 60-й моторизованной пехотной дивизии и 1-й дивизии СС. Защищали город части 56-й армии РККА, под командованием ген. Ф. Н. Ремезова.
20 ноября войска вермахта вошли в город. 1-й батальон дивизии СС прорвался к железнодорожному мосту и захватил его невредимым [15].
Однако уже через через неделю, 28 ноября, советские войска под командованием маршала Тимошенко предприняли контрнаступление и отбили город. Освобождение Ростова стало первой значительной победой Красной Армии в начальный период войны.
Ростов оставался советским до июля 1942, когда после провала наступления Красной Армии под Харьковом немецкое командование начало наступление на Кубань и Кавказ. 24 июля 1942 в Ростов вошла 17-я армия вермахта. На этот раз советские войска не оказали врагу должного сопротивления, что было отмечено в тексте известного приказа НКО № 227 — «Ни шагу назад!» .
Местом массового уничтожения советских людей стала Змиевская балка на окраине города, где гитлеровцы расстреляли и умертвили другими способами 27 тысяч человек, в основном евреев. Всего нацистами было уничтожено более 40 тысяч человек, 53 тысячи ростовчан было угнано в Германию на принудительные работы.
Война нанесла городу большой ущерб: Ростов-на-Дону вошёл в число десяти наиболее пострадавших от войны городов России. В городе в ходе боевых действий было уничтожено около 12 тыс. домов.
14 февраля 1943 после победы под Сталинградом в ходе общего наступления Красной Армии, Ростов-на-Дону был окончательно освобожден от немецких войск.
