В 1897 году в Киеве по официальным данным проживало приблизительно 500 мусульман, не считая студентов, торговцев и временно проживающих на Украине мусульман из разных стран. Это немалая численность по сравнению с общим количеством населения Киева в 100 000 человек. 3 октября 1897 года по решению администрации города был открыт молитвенный дом  в доме Калиновича, который находился по адресу: улица Мирная дом 5 на Подоле в начале подъема к ныне существующей мечети (по улице Лукьяновской). В то время имамом был Юнус Алимов.

Молитвенный дом был деревянным в два этажа, и не был предназначен для этой цели. Молитвенный зал находился на втором этаже дома и занимал три квартиры. В настоящее время этого здания не сохранилось. Позже в качестве молитвенного дома  стали использовать соседний дом по той же улице (дом №4). Этот адрес был указан в адресной книге Киева «Весь Киев» в 1909 году. Сохранилась фотография здания, изданная в журнале «Глобус» в 1931 году. Это строение также не сохранилось до наших дней.

Деревянный дом временно служил молитвенным помещением для мусульман Киева. И с начала ХХ века мусульмане Киева не оставляли мечту о строительстве каменного сооружения, предназначенного для молитвы и ждали момента возможности исполнения этой мечты. По просьбе мусульман инженер Виокритов подготовил архитектурный проект мечети, который в случае осуществления поместил бы 800 молящихся. В газете «Киевская мысль» под №30 от октября 1913 года было написано, что 29 октября губернатор города Суковкин заложил камень фундамента мечети города Киев на улице Гоголевской дом 29. Комиссию строительства мечети возглавил Мурза Мурзаевич.

По неизвестным причинам, проект Виокритова был заменен на проект архитектора Кубелиева. К сожалению, эти планы не осуществились, так как началась первая мировая война, затем большевистская революция, а потом вторая мировая война. Так было приостановлено осуществление мечты о строительстве мечети вплоть до времен полного разрушения коммунистического строя, распада СНГ и получения Украиной статуса независимого государства.

И вновь мусульмане повторили попытку, имея сильное стремление осуществить мечту - построить мечеть. Уже в 2000 году мечта мусульман Киева осуществилась, и было построено основное здание мечети, которое вмещает около двух тысяч молящихся. В столице Украины продолжаются строительные работы по расширению здания мечети «Ар-Рахма», строительству минарета и  остальной части запланированного комплекса,  которое проводит ДУМУ во главе с Муфтием Украины шейхом Ахмедом Тамимом.

Сказано в Кур′ане (Сура Ат-Тауба Аят 18): إِنَّمَا يَعْمُرُ مَسَاجِدَ اللهِ مَنْ ءَامَنَ بِاللهِ وَالْيَوْمِ الآخِرِ وَأَقَامَ الصَّلاةَ وَءَاتَى الزَّكَاةَ وَلَمْ يَخْشَ إِلا اللهَ فَعَسَى أُولئِكَ أَنْ يَكُونُوا مِنَ الْمُهْتَدِينَ

Что означает: «Заполняются мечети теми, кто уверовал в Аллаhа и в Судный День, и соблюдают Намаз, и выполняют Закят, и не боятся никого, кроме Творца, и не нарушают Повеления Всевышнего, и, воистину, они в числе тех, кому дарован путь Истины».  В соответствии с  повелением Всевышнего, Духовное управление мусульман Украины взяло на себя вопрос строительства первой мечети в столице Украины - городе Киев, что является историческим и великим событием для мусульман страны.

Попытки строительства мечети начались с 1897 года, то есть более сотни лет назад. В то время были подготовлены проекты строительства мечети и даже заложен первый камень в фундамент мечети в 1913 году, но, к сожалению, по причине первой мировой войны, большевистской революции, а затем и второй мировой войны, не осуществилась мечта мусульман о строительстве мечети в центре Киева на улице Гоголевской, где в настоящее время построена школа. Мусульмане были вынуждены использовать другое помещение для молитвы. Имам жил неподалеку от того молитвенного помещения, которое находилось на Подоле, где проживало много мусульман. Во время коммунистического режима, когда мусульмане испытывали большие трудности, их расселили по всей территории Киева. И так на карте Киева исчезли дома мусульман, построенные в районе Подола и молитвенный дом. Но имамы, несмотря на все трудности, продолжали следовать истинному пути и работать на благо общества. Они посещали дома мусульман, сохраняя и поддерживая религию предков.

Прошли годы и с получением Украиной статуса независимого государства мусульмане вновь вернулись в район Подола, где был открыт молитвенный дом и объединились в первую, официально зарегистрированную в 1991 году, общину мусульман, председателем которой был Ахат Кашапов. Мусульмане выбрали имам-хатыбом города Киев шейха Ахмеда Тамима, кандидатуру которого поддержали мулла Парса абый Ахатов, а также мулла Мухамаджан Бикулов. В 1992 году у мусульман Киева вновь появилась надежда осуществить мечту о строительстве мечети. Имам-хатыб Киева шейх Ахмед Тамим - председатель мусульманской общины города Киев основал Духовное управление мусульман Украины (ДУМУ) - организацию, объединившую мусульман Украины.

Во время проведения первого съезда мусульман, организованного ДУМУ в 1994 году был заложен камень в фундамент мечети. В ожидании строительства мечети, мусульмане продолжали выполнять религиозные ритуалы у себя дома и собирались на Подоле в помещении, арендуемом ДУМУ для набора религиозных знаний и выполнения пятничных и праздничных Намазов. С расширением деятельности ДУМУ и увеличением мусульманской общины возникла  необходимость в расширении помещения для проводимых занятий и пятничных Намазов, тогда начали собираться в спортивных залах, терпеливо ожидая осуществления проекта строительства мечети.

Первым этапом строительства было оформление юридической документации. С трудом давалось получение документов, разрешающих строительство мечети, но попытки добиться разрешения продолжались вплоть до весны 1997 года. Все это было проделано с целью получения первичной документации согласия на проект, а также добиться отвода земли. Это стало возможным лишь при выполнении ряда условий: опустить уровень мечети на 3 метра ниже поверхности земли (при этом возникла необходимость в укреплении фундамента), построить мечеть ближе к обрыву на северном участке территории, таким образом, чтобы ее не было видно на панораме города при осмотре с набережной, - все это, безусловно, увеличило расходы на строительство. Еще одним условием был отказ от строительства минарета. Этот проект  получил название «Мемориальный молитвенный дом», рассчитанный на 200 человек.

Духовное управление мусульман Украины тогда было вынуждено согласиться с этими условиями для того, чтобы преодолеть все эти  искусственные преграды отвода земли. В результате принятых мер в 1997 году мэр города Косяковский подписал согласие на выдачу земли, и так был заключен договор между Муфтием Украины шейх Ахмед Тамимом и мэром города. Сразу после получения разрешения ДУМУ начало осуществлять строительство мечети (фото ч.1, ч.2). Работа продвигалась постепенно - каждый новый этап строительства осуществлялся благодаря добровольной финансовой поддержке мусульман. И уже в 1998 году мусульмане начали выполнять пятничные молитвы в одном из построенных залов. А в 2000 году ДУМУ переехало в это помещение и мечеть начала полноценно функционировать - в ней стали выполнять все обязательные намазы в сутки, а также помещение использовалось для решения административных вопросов. Параллельно шла работа по изменению проекта мечети в целях расширения, чтобы мечеть вместила большее количество мусульман. Первые праздничные молитвы в мечети были выполнены в 2001 году. Уже тогда в мечети совершили молитву более двух тысяч человек.

Продолжительные попытки убедить городские власти в необходимости этого проекта не только для мусульман, объяснив, что мечеть в Киеве - это украшение для города и мост между разными культурами и цивилизациями, привели  к успеху. Тогда удалось добиться изменения проекта мемориального дома в мечеть вместимостью в 3 000 человек, с административным корпусом Духовного Управления, помещением для обучения, а также было получено разрешение на строительство минарета высотой 27 метров. Муфтий Украины подписал новый договор о строительстве с мэром города Александром Омельченко.

 Для того, чтобы получить дальнейшее разрешение на строительство, было необходимо пройти множество сложных процедур, как, например, экспертизу, поэтому эта работа затянулась до конца 2007 года. С начала весны 2008 года ДУМУ приступило к изучению предложений разных строительных компаний для осуществления строительства нового проекта расширения мечети. И уже летом 2008 года была расширена и подготовлена территория строительства мечети и заложен фундамент молитвенного зала, рассчитанного на тысячу человек.  В 2009 году был заложен фундамент минарета. Новый проект включает в себя строительство большого молитвенного зала, современных оборудованных классов для обучения, Исламской библиотеки, обогащенной проверенной достоверной литературой на разных языках.

Инженерный проект мечети подготовил один из известных архитекторов города Александр Комаровский, спроектировавший Майдан Незалежности (Площадь Независимости), после его смерти работу продолжил его компаньон архитектор Бабушкин. Советники в подготовке проекта мечети - мусульмане, как, например, известный архитектор из Сирии Ридуан , а также архитектор Ходжа Ахмад.