Henüz 6-7 yaşlarındayken Tiyeklioğlu Hoca’dan Kur’an-ı Kerim’i hıfzederek hafız oldu. Arapça ve Farsça öğrenen Ali Efendi, şer’i ilimlerde tahsilini sürdürmek isterken babasının nalbant çırağı olarak yanında çalışmasını istemesi nedeniyle zorluklarla karşılaştı. Ancak Ali Efendi, öğrenme aşkıyla yollara düşerek Konya, Kayseri, Osmaniye, Halep, Mısır ve İstanbul’da eğitim gördü. Kesin sıralama ve Mısır’a gidip gitmediği net bilinmemekle birlikte tahsilinin son durağı İstanbul’dır.
İstanbul’da icazetnâmesini aldıktan sonra Maraş’a dönen Ali Efendi, 24-25 yaşlarındayken Çarşıbaşı Camii imamlığına atanır. Aynı zamanda Maraş Mevlevîhânesi’nde mesnevîhan olarak görev yapar ve Şeyh Selim Dede’nin vefatından sonra Mevlevîhâneye Şeyh olarak atanır. Görevini tekkelerin kapatıldığı döneme kadar sürdürür.
Hafız Ali Efendi, Maraş’ın İngiliz ve Fransız işgali sırasında Milli Mücadele’ye katılır, Heyet-i Merkeziye’nin kurucularından biri olarak Kayabaşı Mahallesi’nde görev alır ve Maraş’ın kurtuluşunun ardından Antep cephesinde de görev yapar. Kurtuluş mücadelesi sonrası toplu bir fotoğrafta Ali Efendi’nin komutan ve hoca efendilerin arasında yer aldığı görülmektedir.
1929’da Müftü Hoca Rafet Efendi’nin vefatının ardından müftülük sınavını kazanarak Maraş Müftüsü olur. Uzun yıllar imamlık ve müftülük görevini birlikte yürütür. İstanbul’dan getirdiği kitaplarla kurduğu kütüphane gün geçtikçe büyür. Dönemin Diyanet İşleri Başkanı Ahmet Hamdi Akseki ve Konyalı Mehmet Vehbi Efendi onun görüşlerine danışır, vaazlarını dinlemeye uzak vilayetlerden insanlar gelir.
Cumhuriyet döneminde özellikle eğitim vermek yerine manevi rehberliğe odaklanan Ali Efendi, 35 yıl boyunca müftülük yapar. Tasavvufa dair bir eser hazırlamış ancak yaşanan olaylar nedeniyle yazmayı bırakmıştır.
1964 yılında sağlık sorunları nedeniyle emekliye ayrılan Ali Efendi, 1967’de gözleri görmez hâle gelmesine rağmen kitaplardan kopmamış, gelen ziyaretçilere okutur ve kendi de dinler. 24 Mayıs 1967’de, “Bugün okumayalım, sevelim” diyerek ruhunu Allah’a teslim etmiştir. Mezarı Şeyhadil Mezarlığı’ndadır.
