Şamaxıda 1902-ci ildə baş verən zəlzələdən sonra minarəsinin bir hissəsi dağılmış Cümə məscidi Cənubi Qafqazda ən qədim məscid kompleksi olaraq, 743-cü ildə inşa edilmişdir. Lakin bu məscidin yerində daha qədim məbəd olduğuna əsas verən əlamətlər onun üç mehrablı olması və buna müvafiq olaraq daxili quruluşunun üç hissəyə bölünməsidir.

Şamaxı Cümə məscidinin inşası xilafət ordusunun Azərbaycanı işğal etdikdən sonrakı dövrə təsadüf edir. Bəzi mənbələrdə göstərildiyinə görə, bu məsciddə Xəzər xaqanı İslam dinini qəbul etmişdir.1902-ci ildəki növbəti zəlzələdən sonra əsrlərə davam gətirmiş, dayandığı məkana bağlı Cümə məscidi yerində qalırdı.

Zəlzələdən sonra, məscidin bərpasının əvvəlki özül üzərində aparılmasına qərar verildi. Bərpa işləri əvvəl memar Zivər bəy Əhmədbəyovun, sonra isə polşalı memar-mühəndis Yozef Ploşkonun layihəsi əsasında aparıldı. Lakin Ploşkonun bir qədər fərqli və orijinal layihəsi əsasında aparılan bərpa işləri sona qədər tamamlanmadı. Məscid tamamlanmamış halda belə, öz əzəmətini qoruyub saxlayırdı.

1918-ci ildə silahlı erməni-daşnak dəstələri tərəfindən törədilən Mart qırğınları zamanı Şamaxı əhalisinin xeyli hissəsi məsciddə sığınacaq tapmağa çalışdı. Lakin azğınlaşmış erməni quldurları heç nəyə baxmadan məscid binasını insanlarla bərabər yandırmaqdan çəkinmədilər. Beləliklə, əsrlər boyu təbii fəlakətlərə, dağıdıcı müharibələrə sinə gərən Cümə məscidi son yüz ildə daha iki dəhşətli zərbəyə davam gətirdi: erməni yağıları tərəfindən törədilən yanğına və Sovet hakimiyyəti illərində sanki xalqa gözdağı verilməsi kimi yararsız və baxımsız hala salınmağına.

1920-ci ildən sonra, Sovet hakimiyyəti dövründə Cümə məscidi toxunulmaz qalsa da, fəaliyyət göstərmir, insanların gözündə nüfuzdan salınırdı. Həmçinin, bu dövrdə təyinatı üzrə istifadə olunmayan məscid məhv olmaq təhlükəsi ilə üzləşmişdi. Ümummilli Lider Heydər Əliyevin tapşırığı və təşəbbüsü ilə 1980 ildə bu tarixi abidə yenidən təmir olunmuşdur.