M.Ö. 4000'lere dayanan zengin bir geçmişe sahip olan bu topraklar, Hititler, Asurlular, Persler, Helenistik dönem, Roma ve Bizans İmparatorlukları ile Arap egemenliği gibi pek çok medeniyete ev sahipliği yapmıştır. 1071 Malazgirt Zaferi ile Selçuklu egemenliğine geçen bölge, 1522'den itibaren Osmanlı İmparatorluğu'nun bir parçası haline gelmiştir. Cumhuriyet döneminde ise günümüze kadar farklı uygarlıkların izlerini taşıyan bir yerleşim yeri olarak varlığını sürdürmüştür.
Şehrin kuruluşunda, savunma kolaylığı ve dini merkezlere yakınlık gibi faktörler belirleyici olmuştur. Eshab-ı Kehf gibi kutsal bir mekanın yakınında bulunması, ziyaretçilerin bir kısmının Afşin'de konaklamasına yol açmış ve bu da şehrin gelişimine katkı sağlamıştır. Ayrıca, Pers, Roma ve Bizans dönemlerinde doğudan batıya giden önemli ticaret yollarının üzerinde bulunması, Afşin'i ilk ve orta çağlarda önemli bir yerleşim merkezi haline getirmiştir. Roma İmparatorluğu döneminde, Efes'ten başlayarak Anadolu'yu boydan boya geçen ve doğuya uzanan Kral Yolu'nun önemli bir bölümü, askeri üs olarak kullanılan Arabissos'tan geçmekteydi. Roma, Bizans ve Arap kaynaklarında Arabissos veya Arbusus olarak anılan Afşin, Türklerin hakimiyetinden sonra Efsus ve Yarpuz isimleriyle de anılmıştır. 1944 yılında ilçe statüsü kazandığında, bölgeyi fetheden Selçuklu komutanlarından Afşin Bey'in adı verilmiştir.
Afşin-Elbistan ovası, tarih boyunca dört önemli yerleşim merkezine ev sahipliği yapmıştır: Afşin (Arabissos, Efsus, Yarpuz), Elbistan (Plasta), Hurman (Aromane, Rumman) ve Arıtaş (Hunu, Honion). Afşin, Selçuklu ve Dulkadiroğlu Beyliği dönemlerinde kuzeye doğru genişlemiştir. Bizans'tan kalan kale ve Selçuklu'dan miras Dedebaba Türbesi'nin yanı sıra, Osmanlı döneminde inşa edilen Ulu Cami de Afşin'in kuzey yönünde geliştiğini göstermektedir.
Afşin'deki asıl gelişim, Cumhuriyet döneminde başlamıştır. Şehir, kale çevresindeki merkezi esas alarak doğu, batı ve kuzeye doğru uzanan ana yollar boyunca büyümüş, Ulu Cami, Dedebaba Türbesi ve Pınarbaşı Mahallesi'nin batı kısımlarına doğru genişlemiştir. Daha önce Elbistan'a bağlı bir bucak olan Afşin, 2 Ağustos 1944'te 4642 sayılı kanunla ilçe olmuştur. İlçe merkezi olduktan sonra planlı bir gelişme sürecine giren Afşin'de, imar planlarına uygun yatırımlar yapılmıştır. Güney ve batıdaki arazilerin engebeli olması nedeniyle, yatırımlar daha çok doğu kesimine yoğunlaşmış ve şehrin gelişimi bu yönde hız kazanmıştır. İlçenin kuzeyinde yer alan Gaziosmanpaşa Mahallesi'nde ise termik santralin faaliyete geçmesiyle birlikte, çevre köylerden gelen göçler sonucu plansız bir yapılaşma (gecekondulaşma) ortaya çıkmıştır.
