Первую попытку соединить Волгу и Дон в месте их наибольшего сближения историки относят к середине XVI века. В 1569 году турецкий султан Селим II, известный своим походом на Астрахань, направил 22 000 солдат вверх по Дону с целью прорыть канал между двумя реками. Однако всего спустя месяц турки отступили «с великой бранью», заявив, по словам летописцев, что «даже всем турецким народом тут и за 100 лет ничего не сделать».
Вторая известная попытка предпринималась в годы правления Петра I. По плану строительства канал должен был быть прорыт между притоками Волги и Дона, Камышинкой и Иловлей. Начало работ пришлось на 1697 год. Ими руководил иностранный «специалист» Иоганн Бреккель. Вовремя осознав неудачу начинания, он попросту сбежал из России. Стройку продолжил английский инженер Джон Перри. Однако в 1701 году внимание Петра I отвлекла Северная война со Швецией. Финансирование было приостановлено.

До 1917 года было создано свыше 30 проектов соединения Волги с Доном. Однако ни одному из них не суждено было реализоваться: сопротивление оказывали частные владельцы железных дорог. Кроме того, даже если бы канал был построен, движение судов по нему могло быть лишь в весеннее время, когда реки были полноводными. Без полной реконструкции рек о полноценной навигации не могло быть и речи. Большой вклад в сооружение канала внёс Нестор Пузыревский работами по изучению междуречья Волги и Дона и выбору трассы для будущего канала.

В 1920 году по плану ГОЭЛРО правительство страны вернулось к вопросу создания канала. Однако проект строительства был создан лишь в середине 1930-х годов. Реализовать его помешала Великая Отечественная война. Работы возобновились по окончании Сталинградской битвы, в 1943 году. Работами на трассе канала руководил Сергей Жук, под руководством которого уже были спроектированы и построены Беломорско-Балтийский канал и канал Москва — Волга. В феврале 1948 года, после утверждения схемы Волго-Донского комплекса на заседании Совета Министров СССР, начались земельные работы. Руководил строительством в период с марта 1948 по март 1949 года Карп Павлов — бывший начальник «Дальстроя».

В 1948 году власти набирали рабочих по всей стране, приглашали выпускников вузов и техникумов, демобилизованных военнослужащих. Вольнонаёмных рабочих было около 700 тысяч человек. В строительстве принимали участие военнопленные немцы, которых было порядка 100 тыся, и советские заключённые численностью свыше 100 тысяч человек. Большинство последних были осуждены за мелкие хищения, хулиганство и мошенничество, но были и рецидивисты, и политзаключённые. Заключённые были заняты на тех же работах, что и обычные строители, иногда бригады были смешанными. На стройке один день работы заключённого засчитывался за два-три дня отбывания наказания. Это вело к досрочному освобождению, например, только из работавших на Цимлянском гидроузле досрочно были освобождены 26 тысяч человек.

Три тысячи из досрочно освобождённых были отмечены наградами, 15 из них — орденом Трудового Красного Знамени

Всего после окончания строительства различными орденами были награждены: орденом «Знак Почёта» — 964 человека, орденом Трудового Красного Знамени — 661 человек, орденом Красной Звезды — 295 человек, орденом Ленина — 122 человека, званием Героя Социалистического Труда с вручением ордена Ленина и золотой медали «Серп и Молот» — 12 человек.

В ходе строительства было вынуто 150 млн м³ земли и уложено 3 млн м³ бетона. В работах было задействовано 8000 машин и механизмов: шагающие и многоковшовые экскаваторы, землеройные снаряды, скреперы, бульдозеры, автосамосвалы.

31 мая 1952 года между 1-м и 2-м шлюзами слились воды Волги и Дона. С 1 июня по каналу уже началось движение судов. 27 июля 1952 года каналу было присвоено имя Владимира Ленина. Тогда же у первого шлюза (со стороны Волги) был открыт памятник Иосифу Сталину (позднее снесён, на постаменте установлен памятник Ленину).