Đại đội phó bộ binh thuộc Trung đoàn 335, đơn vị quân tình nguyện

Sau khi giành chính quyền tại địa phương, từ tháng 4 năm 1945 đến tháng 12 năm 1945, ông hoạt động trong phong trào Việt Minh xã Nghi Diên. Tháng 1 năm 1947, ông là Bí thư huyện đoàn rồi nhân viên toà án huyện Nghi Lộc, tham gia phong trào Bình dân học vụ.[3] Tháng 7 năm 1947 ông nhập ngũ và được cử đi học tại Trường Sĩ quan Lục quân (nay là Trường Đại học Trần Quốc Tuấn). Từ tháng 12 năm 1949 đến tháng 12 năm 1951, ông là học viên Trường Sĩ quan Lục quân khóa 5; Chi ủy viên, Trung đội trưởng Huấn luyện Trường Sĩ quan Lục quân khóa 6.[4]

Tháng 1 năm 1952, ông là Trung đội trưởng thuộc Đại đội 123, Trung đoàn 101, Sư đoàn 325. Trong Chiến dịch Trung Hạ Lào cuối năm 1953, đầu năm 1954, với cương vị Phó Đại đội trưởng rồi Đại đội trưởng, ông đã chỉ huy đơn vị phối hợp cùng các đơn vị và bộ đội Pa-thét Lào chiến đấu tiêu diệt nhiều tiểu đoàn lính Âu-Phi, hoàn thành nhiệm vụ Quân ủy Trung ương và Tổng Tư lệnh giao.

Từ tháng 1 năm 1954 đến tháng 12 năm 1959, ông là Phó ban Tác huấn Sư đoàn 325. Tháng 1 năm 1960, Trưởng ban Tác huấn Sư đoàn 325. Tháng 6 năm 1965, đi B với bí danh Phương, là Phó ban Tác huấn Mặt trận Tây Nguyên. Năm 1968, là Trung đoàn trưởng Trung đoàn 24 Mặt trận Tây Nguyên. Năm 1970, là Trung đoàn trưởng Trung đoàn 28 Mặt trận Tây Nguyên.

Chiến dịch Tây Nguyên năm 1975 là chiến dịch then chốt làm thay đổi cục diện chiến trường toàn miền Nam. Năm 1972, ông là Tham mưu trưởng Mặt trận Tây Nguyên rồi là Bí thư Đảng ủy Bộ tham mưu, Tham mưu trưởng chiến dịch Tây Nguyên từ tháng 3 năm 1975