Родился в семье псаломщика Гродненской епархии.
Из Литовской семинарии. 15-й кандидат LII курса (1893-1897).
Был женат на дочери протоиерея Ярославской епархии Елизавете Александровне Ярославской; имел сына Бориса и двух дочерей - Пиаму и Галину.
В Государственном архиве Оренбургской области, в личном фонде И. П. Кречетовича содержится воспоминание о пребывании Иосифа Павловича в Оренбургском крае.
«По окончании курса Московской духовной академии, - вспоминает И. П. Кречетович, - я 8 августа 1897 г. был назначен инспектором классов Оренбургского епархиального женского училища и прослужил на этой должности свыше 5 лет, до ноября месяца 1902 г., когда Начальству угодно было перевести меня с повышением на другое место службы. За пять лет моей первой службы я глубоко сроднился с населением г. Оренбурга. Внимание выразилось, между прочим, в избрании меня почетным членом Оренбургского комитета попечительства о народной трезвости, каковым я состою и доселе... Все время своей жизни вне Оренбурга я поддерживал с ним самое живое общение. Путем долгих архивных изысканий за время своего пребывания вне Оренбурга я составил, изданный Императорским обществом истории и древностей российских при Московском университете и приветствованный прессой разного направления труд - «Крестьянская реформа в Оренбургском крае» (том I). Для издания второго тома мне необходимо было вновь обратиться к изучению местных архивов, и я с этой целью явился в г. Оренбург 1 августа 1911 г. Конечно, я приехал в Оренбург не как ректор Оренбургской духовной семинарии, а как преподаватель Саратовской семинарии. Но приехал я именно для изучения одной из самых важных сторон жизни Оренбургского края и тем, значит, для еще большего закрепления своей связи с краем. Во время своего пребывания в Оренбурге я не закончил своей ученой работы только потому, что получил из Санкт-Петербурга верное сообщение об имеющем на днях состояться моем переводе в Оренбург. Я поспешил, поэтому, 8 августа в день своего назначения выехать за семьей, чтобы успеть к новому учебному году явиться к месту службы». (http://eparhia.orenburg.ru/note_krechet.htm)
В 1917 - ректор Екатеринославской Духовной семинарии. Священник села Ромашки Рошдянского уезда Киевской епархии.
В 1922-23 уклонился в обновленческий раскол.
В 1923 хиротонисан во епископа.
С 1924 епископ Изюмский, викарий Харьковской епархии. В том же году возведен в сан архиепископа и назначен архиепископом Полтавским и Прилукским. Выступал за украинизацию Церкви на Украине. С 1926 митрополит Белорусский (как отмечали: пользовался репутацией редкого проходимца), а с 1928 митрополит Крымский.