Мечеть была заложена незадолго до Первой мировой войны, в 1910 году, к 25-летию правления Абдул-Ахат-Хана, Эмира Бухарского. С прошениями о строительстве мечети мусульманская община, одна из самых крупных общин многоконфессионального Петербурга, обращалась к городским чиновникам еще с 1880-х годов, но разрешение было получено только в 1906 году. Место для нового храма было выбрано на Петроградской стороне, неподалеку от Троицкого моста, и, хотя многие высказывались против мусульманской мечети в самом центре Петербурга, в 1907 году Николай II разрешил продажу земли. Был проведен конкурс на строительство здания кафедральной мечети, победителем которого стали архитекторы С. С. Кричинский, Н. В. Васильев и А. И. Гоген.