SMA Muhammadiyah 1 Yogyakarta dilatar belakangi adanya desakan dari siswa-siswa SMP Muhammadiyah yang telah lulus ujian negara. Mereka ingin melanjutkan ke jenjang sekolah menengah yang berbasis Islam Muhammadiyah. Atas desakan tersebut guru-guru Muhammadiyah pimpinan H. AG. Dwidjosoeparto beserta R. Muhammad Mukam Hisjam, Ir. Sugiman, Moelono, Muhammad Aslam dan dibantu mahasiswa-mahasiswa UGM mendirikan SMA Muhammadiyah pada Oktober 1948 menempati Sekolah Rakyat VI Muhammadiyah Yogyakarta (sekarang SD Muhammadiyah Ngupasan) di jalan Bhayangkara 5 Yogyakarta. Kegiatan belajar di SR. VI Muhammadiyah jalan Bhayangkara hanya berjalan beberapa bulan. Hal itu disebabkan pada 19 Desember 1948 Belanda melakukan Agresi Militer II kepada ibukota Republik Indonesia kala itu, Yogyakarta. Seperti halnya yang dilakukan anak muda maupun rakyat Indonesia yang lain, guru dan murid SMA Muhammadiyah 1 Yogyakarta ikut perang gerilya melawan agresi militer Belanda tersebut. Setelah Belanda menarik pasukan dari kota Yogyakarta untuk melaksanakan resolusi Dewan Keamanan PBB serta hasil perjanjian Roem-Royen maka ibukota Republik Indonesia dikembalikan lagi ke Yogyakarta pada tanggal 29 Juni 1949. Peristiwa itu dikenal dengan nama peristiwa "Yogya Kembali". Para tentara, gerilyawan kembali masuk kota setelah selesainya perang dan kota Yogyakarta kembali aman. Para siswa kemudian kembali ke bangku sekolah SMA Muhammadiyah yang berlokasi di SR Muhammadiyah IV lagi. Tapi ternyata gedung sekolah tersebut dipakai pemerintah untuk Kantor Kementrian Keuangan RI sampai ibukota kembali ke Jakarta. Oleh karena itu HM. Mawardi yang waktu itu sebagai pengurus Muhammadiyah bidang pengajaran bersama Dwidjosoeparto mencarikan tempat untuk kegiatan belajar mengajar, yaitu dirumah H. Muhammad Sjarbini di Jalan Kauman 44 Yogyakarta.