تم بناء المسجد الكبير، وهو أقدم وأهم معبد في ماردين، عام 1176 في عهد السلطان الأرتقي قطب الدين إيلغازي. يعكس المسجد الكبير السمات المعمارية للعصر الأرتقي، وأصبح علامة ماردين بقبته ومئذنته المميزة. يذكر التاريخ أن الهيكل الأصلي كان يتألف من مئذنتين، لكن لم يبق اليوم سوى واحدة فقط. تم بناء المئذنة المزخرفة الحالية ذات الجسم الأسطواني خلال القرن التاسع عشر.
تعتبر المئذنة، التي يمكن رؤيتها من كل ركن من أركان المدينة، واحدة من أولى الصور التي يتذكرها المرء عن ماردين.
ويحتوي المسجد على أثر مهم للمسلمين وهو شعرة من ذقن الرسول الأكرم محمد صلى الله عليه وسلم ويمكن لزوار المسجد مشاهدتها قرب المحراب. ومكتوب فوقها Peygamberimizin Sakal-i Şerifi