Bu kütüphanenin, Bayezidzade Abdullah Bey’in oğlu İskender Bey tarafından kurulduğu düşünülmektedir. Ancak kütüphanenin İskender Bey tarafından kurulan Acemiye Camisi ve medresesinden bağımsız olup olmadığına dair kesin bir bilgi bulunmamaktadır. Kütüphanenin tam yeri bilinmese de, günümüzde Acemli Cami civarında olması muhtemeldir.
Kütüphane kurulduktan sonra, Acemiye Mahallesi sakinleri ve Hüseyin Efendi tarafından yaşatılmaya çalışılmış, bu kapsamda çeşitli kitaplar vakfedilmiş ve kütüphaneye farklı görevliler atanmıştır. Maraş’ta, Acemiye Mahallesi'nde, Hüseyin Efendi ve halkın vakfettiği kitaplardan oluşan bu kütüphanenin mütevellisi ve hafız-ı kütübü olan Veli'nin vefat etmesinin ardından, Temmuz-Ağustos 1714’te (Receb 1126) Ebu Bekir'e Maraş naibinin arzıyla berat verilmiştir.
