Появление в Воронежском крае архивов, как специализированных мест хранения документов, относится ко времени создания Воронежской ученой архивной комиссии (1 декабря 1900 г.).

В августе 1918 г. была сформирована комиссия по организации Исторического архива Воронежской губернии.

6 апреля 1919 г. образован Воронежский губернский архивный фонд. С этой даты начинается история Государственного архива Воронежской области.

Решением Президиума Воронежского губисполкома от 23 января 1923 г., согласно «Положению о губернских архивах», изданного ВЦИК, Губархив был переименован в Архивное бюро при губисполкоме. За ним были закреплены помещения в нижнем этаже здания бывшей Казенной палаты на проспекте Революции, комната архива при губисполкоме, каменные амбары во дворе губернского музея.

В связи с образованием Центрально-Черноземной области в 1928 г. в Воронеже было создано областное архивное управление и 2 государственных областных архива: Государственный Исторический архив и Государственный Архив Октябрьской революции.

В 1941 году Исторический архив и архив Октябрьской революции были объединены в Государственный архив Воронежской области.

Архивохранилища по-прежнему располагались в зданиях бывших церквей и монастырей (Митрофановский монастырь, Ильинская, Спасская, Успенская церкви г. Воронежа).

Во время Великой Отечественной войны часть архивного фонда госархива была эвакуирована в Уфу, сотрудники находились в эвакуации в г. Борисоглебске.

Несмотря на частичную эвакуацию, во время войны госархиву был нанесен огромный ущерб. В результате вражеской бомбардировки г. Воронежа были уничтожены три здания госархива и находящиеся в них до 700 000 единиц хранения. Погибли документы уездных и земских судов, учебных заведений, дворянских опек, сиротских судов, духовной консистории, ратуш, магистратов, промышленных предприятий, хозяйственных и строительных трестов, лечебных учреждений, торговых организаций и др., большая часть книжного фонда из библиотеки госархива.

После освобождения 25 января 1943 г. Воронежа от немецко-фашистских захватчиков из г. Борисоглебска в г. Воронеж была командирована группа сотрудников госархива в количестве 4 человек, которая прибыла 12 февраля 1943 г. До конца 40-х гг. архивистам пришлось заниматься выявлением ущерба, причиненного архивам, реэвакуацией документов, их учетом и описанием.

В 1967 г. было построено новое здание Государственного архива Воронежской области.

1 января 2008 г., в соответствии с Постановлением администрации Воронежской области от 9 июля 2007 г. № 646 «О создании областных государственных учреждений «Государственный архив Воронежской области», «Государственный архив общественно-политической истории Воронежской области» и «Государственный архив Воронежской области документов по личному составу», создано областное государственное учреждение «Государственный архив Воронежской области».