Önceleri bağlık ve bahçelik olan mahallemizde 1950'li yılllardan bu yana Anadolu'nun çeşitli yörelerinden göç eden aileler gecekondu kurarak yerleşmeye başlamışlardır.

Nüfusun artmasıyla birlikte okul ihtiyacı belirmiş, 1967 yılında devlet bir gecekondu kiralayarak 50 öğrenci ile tek derslikte bir öğretmenle eğitim öğretime başlanmıştır. 1968 yılında da bir öğretmenle uygulama devam etmiştir. Öğrenci sayısı sürekli arttığı için şuan ki okulumuzun bahçesinde bulunan bir gecekonduda Şükrü Yemenicioğlu İlkokuluna bağlı Küçükköy 5. İlkokulu olarak 117 öğrenci  4 öğretmenle eğitim öğretime devam etmiştir.

1968-1969 öğretim yılında gecekondu yıkılarak okulun yan tarafında bulunan Omega Bisiklet Fabrikasında (bugün ki Erdöl Petrol) eğitime devam etmiş yıkılan gecekondunun yerine okulumuz inşa edilmiştir.

1969-1970 öğretim yılında Gazi Ahmet Muhtar Paşa İlkokulu olarak hizmete açılmıştır.

O yıllarda mahallemizde oturanların çoğunluğu Erzurumlu olduğundan Osmanlı-Rus Savaşında gösterdiği büyük başarıdan dolayı büyük komutan Gazi Ahmet Muhtar Paşa'nın adı okulumuza verilmiştir.

1995 yılında Okul Koruma Derneği-Okul Aile Birliğinin iş birliği ile okulun yan tarafına 2 katlı 2 ek derslik yapılmış anasınıfı ve arşiv olarak kullanılmaktadır.

İlköğretim uygulamasının başladığı 1997-1998 öğretim yılında Gazi Ahmet Muhtar Paşa İlköğretim Okulu olmuştur.

Giderek nüfusun artması ve ilköğretim uygulaması ile birlikte bina yetersiz kalınca 1999 yazında ikinci binanın yapımına başlanmış; 2000-2001 eğitim öğretim yılından 2013'e kadar 26 derslik, 1 kütüphane, 1 Laboratuvar, 1 Bilgi Teknoloji  Sınıfı, 1 Çok Amaçlı Salon, 6 İdari Oda, 1 kantin ile her iki binada 60 öğretmenle 3055 öğrenciye her iki binada eğitim-öğretim hizmeti verilmiştir.

2013 yılında ilkokul-ortaokul ayrılarak okulumuz Gazi Ahmet Muhtar Paşa İlkokulu adıyla ana sınıfı ve 1-4.sınıf öğrencilerine hizmet vermeye devam etmiştir. Günümüzde de 1270 öğrenci, 35 öğretmen ve 3 idareci kadrosuyla eğitim öğretim hizmeti vermeyi sürdürmektedir.

Okulumuz eğitim öğretime başlamasından bu yana birçok mezun vererek; çeşitli mesleklerde başarılı bireylerin yetişmesine temel oluşturmuştur ve bu süreç başarılarla devam etmektedir.