1950 yılında Elazığ'da dünyaya geldi. İlköğrenimini 1961'de İmam Hatip Lisesi'ni de 1968'de Elazığ'da bitirdi. Yükses İslam Enstitüsünü 1972 yılında Kayseri'de bitirip aynı yıl Uşak İl Müftü Yardımcısı olarak göreve başladı.
1974-1981 yılları arası Sason, Ulubey ve Pertek İlçelerinde müftülük yaptı. 1981-2001 yılları arası Muş, Isparta ve Muğla İl Müftülüğü görevlerinde bulundu.
Kasım 2001 tarihinde İzmir iline İl Müftüsü olarak atanan Mustafa YILDIZ ilimizde temmuz 2003 tarihine kadar bu görevi sürdürüp anılan tarihte Kazakistan/Almatı Din Hizmetleri Müşavirliği görevine naklen atanmıştır.