Chiến tranh Đông Dương lần 1 (1945-1954)

Được sự vận động của cán bộ Việt Minh, tháng 7 năm 1945 ông tham gia Đoàn Thanh niên Cứu quốc Hà Nội. Khi Cách mạng tháng Tám nổ ra, ông tham gia Cứu quốc quân Hà Nội và lấy tên mới là Hoàng Cầm theo phong trào đổi tên mới để bước vào cuộc đời mới bấy giờ. Theo bài trả lời phỏng vấn của nhà báo Phan Hoàng (tạp chí Kiến thức ngày nay) thì do không đi học và mù chữ, ông chỉ dự định "tham gia quân đội một thời gian rồi quay về quê kiếm vốn buôn bán làm ăn".

Từ tháng 10 năm 1945 đến tháng 11 năm 1946, ông lần lượt là Tiểu đội trưởng; Trung đội phó, Trung đội trưởng, Đại đội phó thuộc Trung đoàn 97. Từ tháng 12 năm 1946 đến tháng 2 năm 1947, ông là Đại đội trưởng kiêm Chính trị viên Đại đội 120 Sơn La. Theo phong trào xóa mù chữ và yêu cầu bắt buộc đối với cấp chỉ huy, ông bắt đầu tham gia lớp học bình dân học vụ.

Tháng 2 năm 1947, ông được kết nạp vào Đảng Cộng sản Đông Dương.

Từ tháng 3 năm 1947 đến năm 1949, ông là Chính trị viên Đại đội 590, Tiểu đoàn 18, Biên giới Lào – Việt; Đại đội trưởng Đại đội 250, Trung đoàn 97;

Năm 1949, ông được điều về Trung đoàn 209 (còn có tên Trung đoàn Sông Lô, một trong những trung đoàn Chủ lực đầu tiên của Quân đội nhân dân Việt Nam), làm Tiểu đoàn phó Tiểu đoàn 90 Xây dựng cơ sở ở Đà Bắc; Tiểu đoàn phó, Tiểu đoàn trưởng Tiểu đoàn 130, Trung đoàn 209, Đại đoàn 312; tham gia trận đánh Đông Khê trong Chiến dịch Biên giới 1950.

Trong trận Điện Biên Phủ 1954, ông là trung đoàn trưởng Trung đoàn 209, Đại đoàn 312 chỉ huy đánh chiếm sở chỉ huy cứ điểm Điện Biên Phủ.[2]