До 1918 года в России не существовало централизованного хранения архивных документов. На Дону также были только ведомственные архивы, как, например, архив Войсковой канцелярии, Донской духовной консистории, судебных органов и других ведомств.

5 августа 1920 г. Донской исполнительный комитет принял решение об организации в Ростове-на-Дону предшественника Государственного архива Ростовской области - Центрального исторического архива (Истарха), а несколько позже – Архива Октябрьской революции (АОР). В связи с общей реорганизацией архивных учреждений Донское областное архивное управление в марте 1922 г. было преобразовано в Донской областной отдел Центрархива РСФСР, который разбивался на секретариат, инструкторскую часть и архивохранилища (Ростовское и Новочеркасское).

Постановлением ВЦИК и СНК РСФСР от 1 декабря 1934 года был образован Краевой военный архив, куда переданы фонды военных учреждений и воинских частей из Истарха и АОРа.

На основании "Положения о центральном республиканском, краевом, областном государственном архиве", утвержденного 14 мая 1941 г. НКВД СССР и циркуляра ГАУ НКВД СССР от 7 апреля 1941 г. "О реорганизации республиканских, краевых и областных архивов", исторический, военный архивы и архив Октябрьской революции в г. Ростове-на-Дону были объединены в единый Государственный архив Ростовской области с филиалами в городах Таганрог и Шахты, в 1964 г. был создан филиал в г. Новочеркасске.

Война нанесла огромный ущерб государственному архивному фонду. Документы большинства архивов учреждений, организаций и предприятий г. Ростова-на-Дону и области за 1930-1943 гг., не успевшие поступить на государственное хранение, погибли. По подсчетам специальной комиссии ущерб, нанесенный немецко-фашистскими захватчиками районным и городским архивам, архивам учреждений, организаций и предприятий, составил 3,5 млн. дел.

В 60-е годы ХХ в. Государственный архив Ростовской области (ГАРО) приступил к плановому комплектованию документами учреждений, организаций и предприятий с применением научных принципов и критериев экспертизы ценности документов. Это позволило принять на государственное хранение документы, содержащие информацию обо всех сторонах жизни общества. Поступили не только документы на бумажной основе, в том числе и проектная документация, но и фотодокументы. В середине 70-х годов прием документов в плановом порядке был прекращен, так как все площади в хранилищах были заполнены. Временно прием дел был возобновлен в конце 90-х годов в связи с передачей ГАРО первого этажа занимаемого здания.