Chiếc khăn bịt đầu và cành cây trước Võ Miếu
Thành đã mất, quân đã tan, mọi cánh cửa chống cự đều khép lại chỉ sau vài giờ giao tranh — vị Tổng đốc không chọn con đường thương lượng hay chạy trốn, mà lặng lẽ đi thẳng đến một ngôi miếu cổ, cởi chiếc khăn đang bịt đầu, và tự kết liễu đời mình đúng vào giờ Ngọ.
Năm 1880, vua Tự Đức giao cho Hoàng Diệu chức Tổng đốc Hà Ninh, cai quản Hà Nội. Ngay khi tới nhậm chức, ông đã chú tâm xây dựng thành lũy, chuẩn bị lực lượng phòng thủ chống Pháp; từ năm 1880 đến 1882, ông đã hai ba lần dâng sớ xin triều đình chi viện củng cố phòng tuyến, nhưng không nhận được hồi âm từ Huế.
Trước tình hình căng thẳng, ông cùng các quan trong thành — Tuần phủ Hoàng Hữu Xung, Đề đốc Lê Văn Trinh, Bố chánh Phan Văn Tuyển, Án sát Tôn Thức Bá, Lãnh binh Lê Trực — đã cùng nhau uống rượu hòa máu, thề quyết tâm sống chết giữ thành. Ngày 25/4/1882, quân Pháp dưới quyền chỉ huy của Đại tá Henri Rivière tấn công thành Hà Nội. Dù chống cự quyết liệt, thành thất thủ nhanh chóng chỉ sau vài giờ nổ súng.
Trong di biểu viết vội trước lúc tuẫn tiết, Hoàng Diệu để lại câu: "Những kế đó, dù tôi có phải nát thịt tan xương, cũng không bao giờ nỡ làm" — thể hiện khí phách của một người giữ thành, thà chết chứ không chịu khuất phục hay thương lượng với giặc. Ông đi thẳng đến cửa Võ Miếu, cởi chiếc khăn đang bịt trên đầu, treo mình lên cành cây trước miếu mà tuẫn tiết đúng vào giờ Ngọ, khi ấy ông mới 54 tuổi.
Khâm phục trước tấm gương thà chết chứ không chịu luồn mình dưới chân giặc, nhân dân và sĩ phu Hà thành đã lập bàn thờ ông bên cạnh vị Tổng đốc tiền nhiệm Nguyễn Tri Phương tại đền Trung Liệt trên gò Đống Đa. Kể từ ngày thành mất ấy, phải hơn 60 năm sau, đến ngày 19/8/1945, Hà Nội mới thực sự trở lại tay người Việt Nam. Cái chết của ông không cứu được thành, nhưng khí phách ấy đã trở thành biểu tượng bất tử cho lòng trung nghĩa của người giữ nước.
