Cumhuriyet’in ilk yıllarında Afyonkarahisar’da kurulan Asar-ı Atika Muhipleri Cemiyeti’nin çabalarıyla Taş Medrese’de eski eserler toplanmaya başlanmış, 1931 yılında resmi müze deposu, 1933 yılında ise Müze Müdürlüğü haline getirilmiştir. 1933 yılından 1970 yılına kadar Taş Medrese’de karma müze (Arkeoloji ve Etnoğrafya) olarak hizmet veren kurum, 1971 yılında ikinci hizmet binasına taşınmıştır. 2023 yılında ise bugünkü müze binası hizmete açılmıştır.