Habib-i Neccar’ın adını taşıyan cami, Hz. Ömer’in hilâfeti döneminde 636 yılında inşa edilir. Ebu Ubeyde bin Cerrah komutasındaki İslâm ordusu şehri fethedince, Hz. İsa’nın havarilerinin ve Habib-i Neccar’ın mezarlarının yeri tespit edilir. Mezarların üzerine türbe, fethin anısına da cami yapılır.