Akkışla halkı, Orta Asya'dan göçebe oba olarak gelmiş ve bugünkü İlçe sınırları içerisine yerleşmiştir. Kuruluş tarihi belli olmamakla beraber 1804 yılında Kuzugüdenli namı ile İlçenin doğusundaki Hınzır Dağı eteklerine yerleşmişlerdir. İlk yerleşimden sonra 45 pare köy var iken, bugün 14 mahalle bulunmaktadır.

Daha önceleri Sivas İline bağlı iken Kayseri'nin il olması ile birlikte Kayseri İli Pınarbaşı (Aziziye) İlçesine bağlanmıştır. Bünyan'ın İlçe olmasıyla birlikte Bünyan İlçesine bağlanmış ve bu durum 1987 yılına kadar devam etmiştir.

1953 yılında belediye teşkilatı kurulan Akkışla İlçesi 19.06.1987 tarih ve 19507 sayılı Resmi Gazete'de yayımlanan 3392 Sayılı Kanunla Akkışla İlçesi olarak faaliyete geçmiştir.İlçe Akkışla adını; kuzeyinde bulunan kayaların beyazlığından AK, hayvanların kış aylarında dışarıda kalmasına müsait olduğundan KIŞLA kelimesini birleştirerek almıştır.