Сын священника, служившего в д. Кремлево Кадниковского уезда. По окончании Вологодской Духовной семинарии в 1891 году Пётр поступил в Санкт-Петербургскую Духовную академию. После четырехлетнего курса изучения богословских наук, 13 июня 1895 года Советом академии он удостоен степени кандидата богословия. 18 апреля 1896 года Пётр определен на должность помощника инспектора Вологодской Духовной семинарии.
10.06.1897 Петр Кремлевский обратился к Высокопреосященнейшему Палладию Митрополиту Санкт-Петербургскому и Ладожскому с прошением:
«Желая быть вблизи родной Духовной академии для научных занятий и надеясь на ваше милостивое Архипастырское снисхождение, осмеливаюсь почтительнейше просить Вас, Ваше Высокопреосвященство, о предоставлении мне новооткрывшейся вакансии псаломщика при Богоявленском Никольском Морском соборе».
14 августа 1898 года помощник инспектора Вологодской Духовной семинарии Кремлевский П. М. определен псаломщиком к Богоявленскому Никольскому Морскому собору и зачислен в запас армии. 9 июня 1899 года он обвенчался в вологодской церкви Святых Жен Мироносиц с дочерью священника, Анной Вениаминовной Камарашевой (16.02.1880г.-10.09.1951).
Руководил благотворительной и просветительской организации «Мефодиевское братство», член кружка 32 пастырей (1905год), участник деятельности религиозно-философского собрания (с 29 ноября 1901) служил в храмах Санкт-Петербурга почти 40 лет. Служба его началась и, спустя десятилетия, завершилась в Никольском Морском соборе.
В 1902 рукоположен во священника в Исаакиевском Кафедральном соборе.
Отец Петр в конце 1914 писал священнику Павлу Флоренскому о том, что его книга «Столп и утверждение Истины» распродана в Петрограде, и просил разрешения переиздать ее при содействии «Общества распространения религиозно-нравственного просвещения в духе Православной Церкви». Проект не был осуществлен.
На протяжении многих лет он был настоятелем церкви Святого Мефодия Патарского на Суворовском пр. д.32 при детском приюте святого Мефодия, вплоть до ее закрытия в 1930 году. История этой церкви и названного по ней приюта для бедных детей связана с именем статского советника Мефодия Мироновича Молчанова (1824-1893г.), члена Кирилло-Мефодиевского братства и чиновника Министерства народного образования.
Несмотря на то, что общество было признано властями, в 1922 протоиерей Петр был арестован за «принадлежность к нелегально организованному братству», хотя и освобожден некоторое время спустя. К обновленцам не примыкал.
С 1930 был настоятелем церкви Бориса и Глеба на Синопской набережной; с апреля 1931 по июль 1932 - Коневской часовни на Загородном проспекте, д. 7.
А в июле 1932 протоиерей Петр возвратился в Никольский Морской собор и служил там до марта 1935, когда его выслали из Ленинграда в Казахстан.
Впрочем, в 1936 году дело пересмотрели, установлено лишение права проживания в 12 населенных пунктах и разрешено жить в Рыбинске.
Умер в Вологде.