SMP Muhammadiyah 3 Jakarta didirikan pada tahun 1951 oleh Pimpinan Muhammadiyah Cabang Jakarta yang kini berubah menjadi Majlis Pendidikan Dasar dan Menengah Pimpinan Cabang Muhammadiyah.
Sejak berdiri hingga saat ini telah mengalami pergantian Kepala Sekolah sebanyak 7 kali pergantian Kepala Sekolah, yaitu :
1.Bapak Muhidj Siradj, BA
2.Bapak Ibrahim Hamid, BA
3.Bapak Mat Nasir, BA
4.Bapak H. M.Djohari, BA
5.Bapak Drs. Syamsul Youm
6.Sri Indra Cahyaningsih, S.Pd
7.Sofyan Hadi Djohar, S.Kom