Abdülvehhab Gazi’nin yaşadığı dönem kesin olarak tespit edilememiştir. Halk arasında “Hazreti Peygamber’in Sancaktarı” olarak tanınan Abdülvehhab Gazi, İslamiyet’in Anadolu’da yayılması süreciyle ilişkilendirilen önemli şahsiyetlerden biri olarak kabul edilmektedir. Türbe, bu yönüyle hem tarihî hem de manevi değeri olan bir ziyaret alanıdır.
Sekizgen planlı ve taştan yapılmış olan türbe, zaman içinde birçok kez onarım görmüştür. Türbenin yanında daha sonradan bir mescit inşa edilmiştir. Ahşap olan bu mescit de farklı dönemlerde onarılarak günümüze ulaşmıştır.
1325 yılında Çaçıkoğlu Şerafettin tarafından türbe ve caminin sürekli kullanımı için vakfiye kurulmuştur. Daha sonra 1482 yılında II. Bayezid Han tarafından tamir ettirilmiş, 1740 yılında ise Sivas Valisi Zaralızade Mehmet Paşa camiyi yeniden tamir ettirerek vakfiyesini yenilemiş ve buraya su getirtmiştir.
Abdülvehhab Gazi Türbesi, Sivas’ın inanç turizmi açısından önemli ziyaret noktalarından biridir. Yapı, mimari özelliklerinin yanı sıra halk arasında anlatılan menkıbeler ve Abdülvehhab Gazi’ye duyulan saygı nedeniyle de dikkat çekmektedir. Günümüzde türbe, dua etmek ve manevi atmosferini yaşamak isteyen ziyaretçiler tarafından ziyaret edilmektedir.