28 (17) января 1724 года по «изустному» указу Петра I был образован архив Адмиралтейств-коллегии: «для собирания дел в архиву определить архивариуса и к нему копиистов». От этой даты ведёт свою историю Российский государственный архив Военно-Морского Флота.

В начале XIX века коллежская система управления государством заменяется министерской. В 1827 году в связи с упразднением Адмиралтейств-коллегии её архив преобразуется в Общий архив Морского министерства.

10 августа 1917 г. Архив Морского Министерства переименовывается в Центральный архив флота и морского ведомства.

Приказом НКВД СССР № 241 от 14 мая 1941 г. Центральный государственный военно-морской архив был переименован в Центральный государственный архив Военно-Морского Флота СССР.

24 июня 1992 г. Центральный государственный архив Военно-Морского флота СССР был переименован в Российский государственный архив Военно-Морского Флота (РГАВМФ) и вошёл в сеть федеральных архивов России. В настоящее время документы РГАВМФ сосредоточены в двух зданиях – на Миллионной улице, д. 36 (документы советского военно-морского флота, 1917 – 1940 гг.) и на Серебристом бульваре, д. 24 (документы русского флота, 1699 – 1917 гг.).