Setelah lulus melanjutkan sekolah ke Taman Siswa lalu menempuh sekolah guru di HIK Muhammadiyah Surakarta.
Meski tidak lulus, Sudirman menjadi guru HIS Muhammadiyah di Cilacap. Karir kemiliteran dimulai pada 1943, saat itu Sudirman menjadi anggota Pembela Tanah Air (Peta).
Setelah selesai pelatihan di Bogor, Sudirman mendapatkan pangkat shodanco dan menjadi komandan batalyon peta di Kroya Jawa Tengah.
Setelah Indonesia merdeka Sudirman bergabung menjadi tentara keamanan rakyat atau TKR.
Saat menjadi anggota TKR Sudirman berhasil merebut senjata pasukan Jepang dalam pertempuran di Banyumas, Jawa Tengah.
Karena kepiawaiannya dalam bidang militer Sudirman diangkat sebagai Panglima Divisi 5 TKR dengan pangkat kolonel.
Perang besar pertama yang dipimpin Sudirman adalah perang melawan tentara Inggris dan NICA Belanda pada November-Desember 1945 yang dikenal sebagai pertempuran Palagan Ambarawa.
Pertempuran berakhir dengan kemenangan. Atas berbagai prestasi militernya, pada 18 Desember 1945 Sudirman dilantik menjadi jenderal oleh Presiden Soekarno.