Menurut daripada cerita penduduk Matang Gelugor, sekolah ini asalnya telah dibina pada tahun 1826 oleh pemerintah Inggeris dengan nama Sekolah Melayu Matang Gelugor yang terletak di Kampung Matang Gelugor Ulu. Sekolah ini mempunyai seorang tenaga pengajar sukarela yang mengajar seramai 12 orang murid. Sekolah ini telah dibina dengan menggunakan bahan-bahan yang boleh didapati di persekitaran kampung seperti nipah dijadikan atap, tepas dijadikan dinding, batang nibong dijadikan tiang dan tanah dijadikan lantai.

Pada tahun 1860, sekolah ini telah berpindah ke Kampung Matang Gelugor Tengah. Ketika itu murid-muridnya adalah seramai 20 orang. Memandangkan pelajar-pelajar di kampung Matang Gelugor terlalu sukar melintasi hutan dan belukar, maka penduduk kampung telah merayu kepada pihak pemerintah Inggeris untuk mendirikan sebuah sekolah di kampung mereka. Rayuan tersebut telah dipersetujui oleh pihak Inggeris dan mereka telah mendirikan sebuah lagi sekolah di atas sebidang tanah yang dihadiahkan oleh Tuan Haji Ali Bashah pada tahun 1890. Sekolah ini boleh dikatakan sempurna yang bertiangkan kayu meranti, papan tebal dijadikan dinding dan lantai dan berbumbungkan atap genting. Bangunan sekolah tersebut berukuran 24 kaki lebar dan 60 kaki panjang. Sebuah rumah guru dibina bersebelahan dengan bangunan sekolah.

Tahun demi tahun penduduk Matang Gelugor semakin bertambah dan murid-murid semakin ramai yang belajar di sekolah tersebut. Tenaga pengajar juga bertambah. Sekolah ini tidak ada kemudahan asas seperti air dan elektrik serta jalan yang tidak sesuai untuk digunakan oleh murid-murid.

Ketika penjajahan Inggeris di Tanah Melayu selepas penjajahan Jepun, Sekolah Melayu Matang Gelugor telah ditukarkan namanya kepada Sekolah Umum Matang Gelugor dan kemudian ditukar sekali lagi kepada Sekolah Kebangsaan Matang Gelugor selepas Tanah Melayu mencapai kemerdekaan

Pada tahun 1983, sebuah sekolah batu dua tingkat telah dibina berhampiran dengan sekolah asal. Ia mempunyai 6 bilik darjah, sebuah bilik pejabat dan sebuah Pusat Sumber Sekolah. Sekolah ini juga boleh menampung murid-murid seramai 200 orang. Sebuah kantin dibina berhampiran bangunan tersebut. Pada tahun 1998 pula, Kementerian Pendidikan telah membina bangunan tambahan 3 bilik darjah.  Keluasan tanah keseluruhan sekolah ini ialah 6 ekar. Sekolah ini terletak di kawasan pendalaman yang jauh dari bandar Taiping iaitu kira-kira 18 km.

Memandangkan sekolah asal dibina pada tahun 1826, maka pihak muzium telah mengiktirafkan SEKOLAH KEBANGSAAN MATANG GELUGOR, MATANG sebagai sekolah yang pertama di negeri Perak Darul Ridzuan. Demi menghargainya, pihak muzium telah mempamerkan gambar sekolah ini di Muzium Perak Darul Ridzuan, Taiping.

ô ô ô ô ô ô

SENARAI GURU BESAR

SEKOLAH KEBANGSAAN MATANG GELUGOR

MATANG

SEMENJAK DIBUKA HINGGA SEKARANG

          Tahun 1826 – 1830              :   Encik Khamis

            Tahun 1830 – 1919              :   ( Tidak dapat dikesan )

            Tahun 1920 – 1923              :   Encik Basharuddin

            Tahun 1923 – 1924              :   Encik Saad

            Tahun 1924 – 1933              :   Encik Majid b. Kulub Mahmud

            Tahun 1933 – 1952              :   Encik Tajuddin

            Tahun 1952 – 1957              :   Encik Shahabuddin

            Tahun 1957 – 1967              :   Encik Md Hashim b. Mat Isa

            Tahun 1967 – 1973              :   Encik Majid b. Hussain

            Tahun 1974 – 1981              :   Encik Mohd Thamin b. Md Desa

            Tahun 1981 – 1984              :   Encik Abu Hassan b. Md Saman

            Tahun 1984 – 1986              :   Encik Mokhtar b. Mohd Noor

            Tahun 1987 – 1989              :   Encik Adnan b. Saidi

            Tahun 1989 – 1995              :   Tuan Haji Kamarudin Sohami b. Mohd Ali

            Tahun 1995 – 1996              :   Encik Abdullah b. Haji Enon Jabadin

            Tahun 1996 – 1998              :   Encik Mohamed Shariff b. Mat Ali  

            Tahun 1998 – 2000              :   Encik Mustafa b. Dahalan

            Tahun 2000 – Jun 2003       :   Puan Hjh Salbiah bt. Che Din

            Jun 2003 – sekarang            :   Puan Hjh Intan bt. Sulaiman