Di awal tahun 1980 Pimpinan cabang Muhammadiyah berdiskusi untuk mendirikan sekolah menengah atas mengingat, di lingkungan tanjung sari sudah berdiri SD dan SMP . Akhirnya setelah diskusi dan dirasa cukup matang persiapan akhirnya dibangunlah SMA MUHAMMADIYAH 2 MEDAN yang pada saat itu pembangunannya di bantu oleh masyarakat muhammadiyah sekitaran tanjung sari. 15 Februari 1981 resmi didirikan SMA MUHAMMADIYAH 2 MEDAN dengan kepala sekolah pertama Bapak Drs. H. Firdaus Naly dengan siswa diawal sebanyak 12 siswa.