Родители Алексея часто совершали паломничество, беря с собой в поездки сына. Так он побывал во многих святых местах, включая священный остров Валаам. Алексей с детства прислуживал в церкви. С 1944 по 1947 год служил старшим иподиаконом. С 1946 года был псаломщиком в Симеоновской, а с 1947 года - в Казанской церкви города Таллина.  

В 1947 году Алексей поступил в Ленинградскую Духовную семинарию, которую окончил спустя два года по первому разряду. Затем поступил в Духовню академию. 17 апреля 1950 года был произведён в сан священника и назначен настоятелем Богоявленской церкви города Йыхви Таллинской епархии. В 1953 году отец Алексей после окончания Духовной академии был удостоен степени кандидата богословия.  

15 июля 1957 года отец Алексий становится настоятелем Успенского собора города Тарту. 17 августа 1958 года возводится в сан протоиерея. 3 марта 1961 года в Троицком соборе Троице-Сергиевой Лавры  будущий патриарх Всея Руси был пострижен в монахи. 14 августа 1961 года Алексию стал епископом Таллинским и Эстонским с поручением ему временного управления Рижской епархией.

В 1964 году епископ Алексий возведен в сан архиепископа, становится управляющим делами Московской Патриархии и постоянным членом Священного синода. С 17 октября 1963 года по 1979 год он также был членом Комиссии Священного Синода Русской Православной Церкви по вопросам христианского единства и межцерковных сношений.

25 февраля 1968 года архиепископ Алексий производится в сан митрополита. 25 мая 1983 года назначен председателем Ответственной комиссии для разработки мероприятий по приему зданий Данилова монастыря, организации и проведению всех реставрационных и строительных работ. 29 июня 1986 года назначен митрополитом Ленинградским и Новгородским с поручением управлять Таллинской епархией. 7 июня 1990 года на Поместном Соборе Русской Православной Церкви избран на Московский Патриарший Престол. Интронизация состоялась 10июня 1990 года.

Алексий II - почетный член Санкт-Петербургской и Московской Духовных академий, Критской православной академии (Греция); доктор богословия Санкт-Петербургской духовной академии (1984); доктор богословия Богословской академии в Дебрецене Реформатской Церкви Венгрии и Богословского факультета Яна Коменского в Праге; доктор богословия honoris causa Генеральной семинарии Епископальной Церкви в США (1991); доктор богословия honoris causa Свято-Владимирской Духовной семинарии (академии) в США (1991); доктор богословия honoris causa Свято-Тихоновской Духовной семинарии в США (1991), Доктор богословия honoris causa Университета "Аляска Пасифик" в городе Анкоридже, Аляска, США (1993). Он лауреат огромного количества премий и наград.

За время пребывания Патриарха Москосвкого и Всея Руси на Престоле были построены и восстановлены тысячи церквей, в том числе и знаменитый Храм Христа Спасителя в Москве.