Синодальная библиотека появилась в Москве в XVI веке (до 1721 года называлась Патриаршей). Была уникальным хранилищем церковных и светских книг (в некоторые периоды сюда поступали обязательные экземпляры всех православных книг, государственных указов и др.), в т.ч. — древнейших (в библиотеке хранился «Изборник» Святослава (1073), Кормчая книга (1282) и др.). По мнению Карамзина, основанием её послужила митрополичья библиотека, составившаяся из книг, привозившихся митрополитами-греками и др. лицами с православного Востока. Наиболее крупные и ценные приобретения были сделаны в период Патриаршества. При Патриархе Филарете библиотека включала свыше 500 печатных и рукописных книг, греческих и славянских. При Патриархе Иоасафе I вытребованы были книги из Кирилло-Белозерского и Троицкого монастырей. Более всего вложил в библиотеку Патриарх Никон, в 1652 г. привезший из Новгорода большое количество греческих и латинских книг. Приступая к исправлению церковных книг, Никон усиленно собирал в Патриаршую библиотеку нужные ему древние книги и рукописи. Так, келарем Троицкого монастыря А. Сухановым только с Афона было привезено 498 книг и около 200 рукописей. Сюда же поступили: часть книг и рукописей Иверского подворья и Воскресенского монастыря, собрание митр. Сарского и Подонского Павла (1675), собр. Епифания Славинецкого (1676). В 1686 г. поступили 219 греческих печатных книг иеромонаха Тимофея; в 1685-94 гг. – рукописи от иерусалимского Патриарха и из Посольского приказа; в 1700 г. – книги и рукописи Сильвестра Медведева и келейная библиотека Патриарха Иоакима; в 1705 г. – книги и рукописи монаха Евфимия; в 1709 г. – библиотека Димитрия епископа Ростовского (греческие, латинские, польские и славянские рукописи и книги). В дальнейшем библиотека пополнилась трудами Арсения Сатановского, Епифания Славинецкого, Лихудов, К. Истомина и др. Весь XVII век около Патриаршего книгохранилища сосредоточивалась литературная деятельность того времени.

С учреждением в 1721 г. Синода, Патриаршая библиотека перешла в его ведение и получила название Синодальной. К этому времени она содержала: печатных книг 866, рукописей 224, грамот 300 и отдельно хранившихся соборных уложений, книг и рукописей – 144. С переносом центра духовного управления в С.-Петербург поступления в московское книгохранилище становятся более редкими. В 1722 г. было повелено доставить из всех епархий и монастырей в Синод замечательные в историческом отношении рукописи, для снятия с них «для общаго известия» копий. Это распоряжение обогатило Синодальную библиотеку большим количеством такого рода списков. В том же 1722 г. Синод предписал игумену Аф. Кондоиди привести библиотеку в порядок, а проф. Афанасию Скиаде составить описание греческих манускриптов Синодальной и Типографской библиотек. Это описание было издано в Москве в 1723 г. на русском и латинском языках. Более обстоятельное описание греческих рукописей предпринял, по повелению императрицы Екатерины II, в 1773-1805 гг. проф. Хр.-Ф. Маттеи. В 1786 г. были переданы в Синодальную Б. 544 рукописи Типографской Б., а печатные книги Синодальной Б. распределены между Славяно-греко-латинской Академией, библиотекой Синодальной типографии и Императорской Публичной Б. В 1812 г. Синодальная библиотека уцелела, так как своевременно была вывезена в Вологду. По возвращении в Москву она продолжила пополняться рукописями. К середине XIX столетия собрание библиотеки весьма возросло. В то время ни одно другое книгохранилище России не содержало столько данных о древних славянских памятниках и материалов по истории славянских языков, сколько таилось в старинных рукописных и печатных актах Синодальной библиотеки. Исключительную ценность здесь представляло собрание славянских рукописей XI-ХVIII веков, общее число которых было более тысячи и среди которых было немало действительно уникальных. Между тем такой ценный материал оставался научно невостребованным. За неимением настоящего указателя или каталога к нему им почти невозможно было пользоваться, хотя необходимость введения в научный оборот всего этого рукописного богатства для ученых филологов и историков, с последующим изучением в высшей школе, чувствовалась уже давно.

По благословению митрополита Московского Филарета в 1849 году работу по составлению описания славянских рукописей Синодальной библиотеки начали профессор Московской Духовной Академии, талантливый педагог, выдающийся церковный историк протоиерей А.В. Горский [†1875] совместно с преподавателем Симбирской Духовной Семинарии К.И. Невоструевым [†1872]. Этот труд, названный Российской Императорской Академией наук гражданским подвигом, и до сих пор является образцом в деле описания памятников древней славянской письменности. Описание рукописей растянулось на целых 14 лет. Результатом такой долгой работы было появление в печати шести довольно объемистых томов, в которых были подробно описаны более 340 книг и рукописей. Первая книга «Описания» вышла в 1855 году. В этом первом томе рассмотрены все славяно-русские рукописи Священного Писания Ветхого и Нового Заветов и, прежде всего, Библия архиепископа Новгородского Геннадия по спискам XV-XVII веков, а также отдельные списки XII-XVII веков Евангелия, Апостола, Псалтири, Пророчеств и так далее. Рассмотрены они в сравнении с печатными Библиями, начиная с Острожской 1581 года, и параллельно с библейскими греческими, латинскими и еврейскими текстами.

В 1918 г. библиотека (тогда снова называвшаяся Патриаршей) была национализирована. Рукописи и грамоты поступили в Государственный Исторический музей, где они составили Славянское и Греческое рукописные собрания. Печатные книги разошлись по разным библиотекам.

Одним из вдохновителей воссоздания библиотеки как главного книгохранилища Русской Православной Церкви стал – тогда еще митрополит Таллинский и Эстонский – Алексий (Ридигер) [† 2008], Управляющий делами Московской Патриархии. В мае 1985 года по его инициативе в Данилов монастырь доставили 42 больших ящика с книгами и архивными материалами архиепископа Тамбовского Михаила (Чуба) [†1985]. Общецерковная библиотека была воссоздана 28 января 1987 г. как «Библиотека Духовного и административного центра Русской Православной Церкви», и с 1 октября того же года в больничном корпусе Свято-Данилова монастыря она уже была открыта для читателей. На Архиерейском Соборе 1988 года библиотеке было присвоено наименование Синодальной и определено ее место в структуре Московского Патриархата. Штат библиотеки состоял тогда из четырех сотрудников во главе с заведующим (впоследствии директором) священником (впоследствии протоиереем) Борисом Даниленко. В 1993-1994 гг. библиотека переехала в Андреевский монастырь (в то время недействующий), где 1 сентября 1993 г. был открыт и освящен Святейшим Патриархом Алексием II читальный зал.

В 2009 году библиотеке присвоено имя Святейшего Патриарха Алексия II.

Сегодня Синодальная библиотека — одно из наиболее полных в России общедоступных собраний современной христианской литературы. Кроме книг, в т. ч. изданных за рубежом на русском и иностранных языках, библиотека тщательно комплектуется современными церковными периодическими изданиями – вплоть до «листков» провинциальных храмов (хотя не всегда удается собрать все). Богатая коллекция провинциальных церковных изданий – очень ценный краеведческий материал.

В библиотеке есть небольшое количество славянских древностей: рукописи XV-XVII веков, печатные книги XVI-XVIII веков.