Московская Соборная мечеть была построена в 1904 г. по инициативе муллы второго мусульманского прихода Москвы Бедретдина Алимова на средства московского купца 2-й гильдии Салиха Юсуповича Ерзина на земле в Выползовом переулке, которую в конце 1901 г. выкупили касимовский купец Хабибулла Акбулатов и малмыжский мещанин Сабирзян Бакиров.

2 декабря 1902 г. Х. Акбулатов и С. Бакиров подали московскому обер-полицмейстеру ходатайство о передаче участка со всеми строениями («два строения жилых двухэтажных, низ каменный, верх деревянный, и шестнадцать построек и пристроек нежилых») в пользу Оренбургского магометанского духовного собрания (ОМДС). После того как официальным собственником участка сделалось ОМДС, вопрос о строительстве новой мечети фактически был предрешен, хотя понадобилось еще несколько лет для легализации этого вопроса.

Прошение о разрешении открытия молитвенного дома для мусульман было подано Московским магометанским обществом в мае 1904 г., в июне уже был утвержден проект, сделанный техником архитектуры Н.А. Жуковым, а в октябре того же года каменное здание мечети уже было построено. В конце ноября 1904 г. временный имам-хатыб новой мечети Бедретдин Алимов подал прошение совершить в ней первый намаз. Сохранилась переписка активных прихожан мечети с муфтием ОМДС Мухамедьяром Султановым с просьбой разрешить возглавить новый приход вышеназванному имаму.

Уже спустя месяц община обрела официально утвержденного имам-хатыба в лице старшего сына муллы Бедретдина ­– Мухаммед-Сафы Алимова. Именно под его руководством произошло становление данного прихода, а также расширение его функций. В 1912­–1913 гг. община мечети просила разрешения властей построить во дворе мусульманского храма двухэтажное деревянное здание «под квартиры»; в действительности же в новом здании, помимо жилых помещений, начало работу и религиозное училище (после Революции 1917 года именно здесь расположилась одна из светских татарских школ столицы).

В отличие от многих других мечетей, Московская Соборная мечеть в Выползовом переулке никогда не закрывалась. Даже в годы жесточайших репрессий, направленных против служителей культа, когда по всей стране были репрессированы тысячи имамов, эта мечеть продолжала собирать верующих на пятничные и праздничные молитвы, таравихи, мавлиды.

В годы войны община Московской соборной мечети действовала в тесной координации с муфтием Центрального духовного управления мусульман (ЦДУМ) Абдурахманом Расули. 15­–17 мая 1942 г. имам-хатыб Халил-Рахман Насретдинов в качестве «имама города Москвы, мухтасиба и члена Духовного совета ЦДУМ» принял участие в совещании членов ЦДУМ под руководством А. Расули, принявших известное «Обращение представителей мусульманского духовенства к верующим по поводу немецко-фашистской агрессии». Московский имам наряду с муфтием А. Расули участвовал в подготовке первого съезда улемов Средней Азии и Казахстана, проходившего в 1943 г. в Ташкенте, когда было создано Духовное управление мусульман Средней Азии и Казахстана.

Несмотря на многочисленные лишения и трудности военного времени, московские мусульмане вели сбор средств на танковую колонну для Красной Армии; в общей сложности прихожанами было собрано 55 тыс. рублей наличными и 20 тыс. рублей облигациями. В 1944 г. в адрес «мухтасиба имама мечети» Халила Насретдинова и председателя приходского совета Закера Алимова были направлены телеграммы: И. Сталина – «…прошу передать верующим мусульманам Москвы… мой привет и благодарность Красной Армии»; и генерал-майора танковых войск Липодаева – «…сообщаю, что на средства, внесенные верующими мусульманами гор. Москвы, построены танки и переданы частям генерал-лейтенанта… Лазарева. Прошу сообщить об этом всем, кто принимал участие в сборе средств».

На пике установления нормальных рабочих отношений между властями и исламскими общинами в середине 1940-х гг., что было связано с активной прогосударственной позицией мусульманских религиозных деятелей во главе с муфтием ЦДУМ А. Расулевым в годы войны, были созданы муфтияты в Ташкенте, Баку и Буйнакске. Более того, к началу 1946 г. Совет по делам религиозных культов поддержал проект «создания единого административно-консультативного религиозного центра мусульман СССР с местопребыванием его в Москве», с которым выступили руководители новосозданных муфтиятов – Среднеазиатского духовного управления мусульман (САДУМ), ДУМ Закавказья и ДУМ Северного Кавказа.

Таким образом, произошло изменение государственной политики в отношении религии и частичная нормализация отношений властей к мусульманам Москвы. Соборная мечеть в годы войны стабильно действовала и собирала по пятницам по 900­–1200 человек, а в праздничные дни – до 5­–6 тыс. верующих. Стабильное положение сохранялось и в первые послевоенные годы. В 1946­–1947 гг. число прихожан мечети по пятницам составляло более 1 тыс. человек, по праздникам – около 13 тыс. (10 тыс. мужчин и около 2­–3 тыс. женщин) – рабочих, служащих, работников торговых сетей, а также и группу молодых прихожан. В 1949 г. было образовано Религиозное общество мусульман (РОМ) г. Москвы, которое сразу же заключило договор с властями о бессрочном и бесплатном пользовании зданием мечети.

К началу 1950-х гг. благожелательное отношение властей вновь сменилось на идеологический и политико-административный диктат. В те годы отчетливо проявилось негласное противостояние двух тенденций в советской политике – идеологической и прагматической. Прагматические подходы во внешней политике, возобладавшие после смерти Сталина, оказывались все сильнее идеологических догм. Это обстоятельство впоследствии обеспечило выживание московской мусульманской общины и Соборной мечети Москвы как религиозного и социального института в условиях хрущевской антирелигиозной кампании конца 1950-х – начала1960-х гг.

Со второй половины 1950-х гг. огромную роль приобрела международная деятельность Соборной мечети Москвы. Начало работы имам-хатыбом Камаритдина Салихова (1956 г.) совпало с визитами в Москву глав мусульманских государств: шахиншаха Ирана Реза-шаха Пехлеви, президента Индонезии А. Сукарно, президента Сирии Ш. Куатли, наследного принца Йемена Мухаммада аль-Бадра, которые в том числе посещали для богослужения Соборную мечеть. Об интенсивности международных встреч конца 1950-х – начала 1960-х гг. может свидетельствовать то, что только в 1961 г. Московскую Соборную мечеть посетили представители Йемена, Индонезии, Ливии, делегаты Всемирного форума молодежи из Цейлона, Индонезии, Ямайки, Китая. Нередко в один день мечеть посещало несколько делегаций.

В те годы РОМ г. Москвы неоднократно ставило перед властями вопрос о передаче в пользование прихода одного из трех домов-флигелей, находящихся во дворе мечети и возведенных на средства мусульман еще в дореволюционный период (ныне на их месте административное здание муфтията). Общество намеревалось переоборудовать возвращенный дом под служебные и представительские функции. Пытаясь поддержать реноме Советского государства в глазах многочисленных иностранных гостей из дружественных стран Востока, отдельные чиновники-прагматики поддержали этот запрос, и в августе 1958 г. Обществу было разрешено построить на старом фундаменте новое кирпичное здание площадью в 250 кв. м.

Несмотря на идеологический диктат, РОМ удалось упрочить положение мечети, которая получила статус центра мухтасибата Духовного управления мусульман европейской части СССР и Сибири (ДУМЕС) по Московской и Горьковской областям, Чувашской и Мордовской АССР. Чиновники-прагматики проявляли повышенный интерес в привлечении имамов Соборной мечети к работе по укреплению международных связей СССР. В этих условиях административно-идеологический диктат государства в отношении мечети стал неизбежно ослабевать, хотя властные структуры, которые отвечали за идеологию, были крайне враждебно настроены по отношению к столичным мусульманам.

В конце 1970-х гг., накануне московской Олимпиады-80, вместе с председателем «двадцатки» мечети Абдулкадыром Валитовым имам-хатыб Ахметзян Мустафин спас здание Московской Соборной мечети, которое власти намеревались снести в связи со строительством олимпийского спортивного комплекса. Согласно планам реконструкции города, в 1979 г. Московская соборная мечеть – единственная в Центральной России, должна была быть снесена как мешающая строительству спорткомплекса «Олимпийский».  Кроме того, идеологическое наполнение Олимпиады-80 не допускало наличия мусульманской мечети бок о бок с объектом международного значения в стране победившего социализма. Она была даже исключена из планов города и не отмечалась на картах до 1985­–1987 гг. Мобилизовав мусульманский дипломатический корпус и пожилых мусульман – ветеранов войны и труда, духовенство отстояло мечеть.

Московская Соборная мечеть оставалась центром притяжения для всех мусульман города независимо от их национальности. Стоит учитывать, что в 1970-е гг. среди прихожан мечети было большое количество студентов московских вузов, прибывших на учебу в СССР из стран мусульманского мира. Однако в целом мечеть имела особое, не только культовое, но и институциональное значение для татарской общины города. Как и у всех мусульман, у московских татар этническая и конфессиональная идентичность были взаимосвязаны, и татарское самосознание одновременно означало принадлежность к мусульманской религии. В значительной мере именно Московская Соборная мечеть способствовала сохранению этнического самосознания у татар столицы. К примеру, торжественные проповеди имамов Ахметзяна Мустафина и Ризаутдина Басырова в Московской Соборной мечети были для прихожан образцами владения татарским языком. Во дворе мечети в Выползовом переулке звучала татарская речь, здесь встречались земляки и знакомые.

В последние годы жизни Р. Басыров содействовал возрождению религиозной жизни мусульман Москвы. В 1987 г. он, самый уважаемый из имамов Москвы, представил прихожанам Московской соборной мечети нового предстоятеля – Равиля Гайнутдина. Назначение молодого выпускника Бухарского медресе «Мир-и-Араб» новым имам-хатыбом совпало с качественно новым этапом в жизни Соборной мечети Москвы и всей мусульманской уммы страны, что было связано с изменением всей общественно-политической обстановки.

Для восстановления попранных позиций религиозного образования уже в первый сезон своей работы, в октябре 1987 г., Р. Гайнутдин открыл для всех желающих – от школьников до докторов наук – медресе по обучению основам ислама при Соборной мечети. Он же стал главным преподавателем, взяв на себя ключевой идеологический и богословский курс по основам ислама.  Многие московские мусульмане первые сведения о своей религии почерпнули именно там.

Московской соборной мечети суждено было стать стартовой площадкой для множества необходимых российской умме начинаний и инициатив в области образования, просвещения, воспитания подрастающего поколения, книгоиздания, государственно-конфессионального взаимодействия, организации религиозной жизни и консолидации мусульманских общин.

В 1994 г. по инициативе Р. Гайнутдина был учрежден Московский высший духовный исламский колледж для подготовки специалистов по исламу на регулярной основе, а в 1995 г. – Московский исламский университет, перерегистрированный в 2012 г. в качестве аккредитованного теологического вуза – Московского исламского института.

Как по статусу (являясь главной мечетью столицы), так и по масштабу выполняемых задач, за считанные годы Московская Соборная мечеть была признана главным мусульманским храмом Российской Федерации.

С новейшей эпохой связано возникновение на базе Соборной мечети значимых в жизни российских мусульман религиозных организаций, поскольку именно эта мечеть исполняла роль координатора и главного центра мусульманских общин, официальных и нелегальных, на огромных пространствах Центральной России. В 1994 г. на учредительном съезде мусульманских религиозных объединений и общин Европейской части России Р. Гайнутдин был избран муфтием – председателем Духовного управления мусульман Центрально-Европейского региона России. В 1998 г. оно было переименовано в Духовное управление мусульман Европейской части России, а в 2014 г. перерегистрировано Министерством юстиции РФ в качестве Духовного управления мусульман Российской Федерации (ДУМ РФ).

В 1996 г. в условиях административного кризиса и хаоса в среде российских религиозных мусульманских учреждений по инициативе муфтия Р. Гайнутдина был учрежден Совет муфтиев России (СМР), в который в качестве сопредседателей входят руководители крупнейших Духовных управлений мусульман страны. За короткий период ДУМ РФ и СМР стали авторитетными органами, представляющими интересы мусульман страны.