Мечеть расположена к югу от ворот Кырхляр-капы, видимо от места расположения и произошло название мечети.

Михраб мечети является уникальным. Он представляет собой филигранную резьбу в виде растительного орнамента и каллиграфической надписи цитат из Корана на алебастровой штукатурке, называемой штук.

Здание мечети украшают несколько надписей. Две одинаковые персидские надписи на восточной колонне внутри мечети сообщают о том, что мечеть сооружена в 1627 году правителем Дербента Кара-ханом по велению персидского шаха Аббаса I (1521-1629). Здание мечети неоднократно подвергалось ремонту, о чем говорят многочисленные резные надписи в разных ее частях. Из надписи следует, что здание мечети, в силу неизвестных обстоятельств, возможно землетрясения, было разрушено, а затем в 1712-1713 гг. восстановлено на пожертвования верующих.

Современный вид Кырхляр-мечеть приобрела после перестройки в 1748 году.