Hoşap Suyu’nun (Güzelsu) kuzeybatısında sarp ve dik bir kaya kütlesi üzerine kurulan kale, iç kale ile bunun kuzeyindeki dış kaleden oluşuyor. Geçmişi itibariyle Urartu Devleti’ne kadar uzanan kale, Osmanlı Devleti’ne tabi Mahmudi Beyleri’nin yaptırdığı şekliyle günümüze ulaştı. İç kale giriş kapısı üzerindeki kitabesine göre Mahmudi Süleyman Bey tarafından 1643 tarihinde yaptırıldı. Doğu surları kısmen, batıdakiler ise büyük ölçüde yıkılmış durumda. Dış kalenin kuzeydoğusunda bir gözetleme kulesi bulunuyor. İçerisinde Mahmudi Sarayı olarak nitelenen kompleks yapılar yer alıyor. Seyir köşkü, harem, selamlık, mescid, zindan, fırın ve sarnıç iç kalenin diğer yapılarından. 19. yüzyıl ortalarında terkedilmiş olan kale, içerisindeki yapılarıyla günümüze büyük ölçüde sağlam olarak ulaştı.