Doğum tarihi kesin olarak bilinmemekle birlikte, yaptığı hizmetler ve yaşadığı dönem göz önüne alındığında XVIII. yüzyılın başlarında doğduğu tahmin edilmektedir. Genç yaşta İstanbul’a gelerek Saray-ı Hümayun’da Bostancı Ocağı’na katılan Ali Paşa, kısa süre sonra Hassa Hasekileri zümresine dâhil oldu. Dârüssaâde ağalarından Ebu’l-misk Anber Ağa döneminde Ağa Köşkü ve Has Bahçe’yi düzenlerken Bina Emini olarak görevlendirildi. Bu görevinde gösterdiği dirayet ve cesaret nedeniyle haydut ve eşkıyaların def edilmesinde başarılı oldu. Bursa’da gerçekleştirdiği bazı muamelelerden ötürü “Moldovanî” veya “Moldovancı” lakabıyla anıldı.
III. Mustafa’nın tahta çıkmasıyla 30 Ekim 1757 tarihinden sonra Tebdil Hasekiliği görevine terfi eden Ali Paşa, Sadrazam Ragıp Mehmed Paşa ile aralarının iyi olmaması ve geçmişte bazı kişileri köle olarak satmış olması bahane edilerek Filibe Nazırlığı’na gönderildi. Ancak burada sergilediği başarılı hizmetler üzerine kısa süre sonra İstanbul’a dönerek Haseki Ağalığı görevine iade edildi. Bu dönemde Matbah Emini Filibeli Abdurrahman Bey’i Edirne’de katletmekle görevlendirildi.
1761 yılında Saray-ı Hümayun’da Bostancı başı oldu. 25 Nisan 1762’de kendisine hilat giydirilerek üç tuğlu vezaret rütbesi verildi. Kütahya ve Rumeli valiliklerinde görev yaptı. 1763-64 yıllarında Yanya’da isyancı Arnavud Selman Paşa’nın idam edilmesini sağladı. 8 Nisan 1764’te Bosna Valiliği’ne atandı; 1765-66’da görevinden alındı. Ardından sırasıyla Diyarbekir, Anadolu, Konya ve Karaman valiliklerinde bulundu. 1768’de Adana Valisi iken Babadağı Seraskerliği hilatı ile ödüllendirildi. Daha sonra Maraş Valiliği ve Bender Seraskerliği görevlerine getirildi, ardından Yaş Muhafızlığı ve Temmuz 1769’da Hotin Başbuğu oldu. Burada Kırım Hanı Devlet Giray ile birlikte Rus Generali Galitzin’i geri çekilmek zorunda bıraktı.
III. Mustafa, Ali Paşa’yı cesareti ve başarıları nedeniyle 12 Ağustos 1769’da sadrazam ve serdâr-ı ekrem olarak atadı. Ancak Ali Paşa, Osmanlı ordusundaki emir ve komuta görevlerini etkin şekilde yerine getiremeyince Aralık 1769’da sadaretten azledildi ve Gelibolu’ya gönderildi. 1770 Mayıs ayında yeniden vezirliği iade edilen Ali Paşa, Seddü’l-Bahir Muhafızlığı ve Çanakkale Boğazı Seraskerliği görevine getirildi. Bir süre sonra ihtiyarlığı ve rahatsızlığı nedeniyle görevinden alındı ve Tekirdağ’da ikamete mecbur edildi. 1773/74’te Tekirdağ’da vefat etti.
