Nhà hoạt động cách mạng và là một chỉ huy quân sự, đồng thời là một thi sĩ nổi tiếng

Trước khi sinh ra ông, gia đình ông từng sống du cư bằng ghe trên sông Bao Ngược.[3] Năm 1903, gia đình ông gặp một trận bão lớn cuốn hết cả gia tài và hai người con đầu.[4]

Sau trận bão đó, gia đình ông lưu lạc lên lập nghiệp ở vùng Tân Uyên (khu vực Thường Tân, Đất Cuốc). Cha của ông là ông Huỳnh Văn Tờn, từng học võ và biết chữ Nho, sống bằng nghề đi săn, nhưng có lúc phải đi làm mướn (cưa gỗ) để sinh kế. Là một người khẳng khái, mặc dù chính quyền thực dân cấm, ông Tờn vẫn lén lút dạy võ cho thanh niên trong làng và từng được hương chức làng mời ra làm hương tuần[5] nhưng ông Tờn không nhận.[4] Mẹ ông là bà Đoàn Thị Hiển, sinh năm Canh Thìn (1880), làm nghề gánh hàng bán cau khô, vải, nước mắm, thường đi chợ Tân Uyên để mua hàng về bán cho các làng lân cận như Tân Hòa, Mỹ Lộc,...[4]

Huỳnh Văn Nghệ là con thứ 7 trong gia đình nên còn gọi là Tám Nghệ (theo cách gọi gia đình của người miền Nam). Trừ 2 người đầu mất tích do bão lũ năm 1903, và người thứ 3 và thứ 6 mất sớm, ông có một người anh thứ tư (Năm Thọ) và người chị thứ 5 (Sáu Yển) và 2 người em út (Chín Lưỡng và Mười Mẫn). Như thông tục thời bấy giờ, ông còn được cha mẹ gọi là Ngộ hoặc Ngãi (Gọi trại tên con cho xấu đi để ma quỷ không bắt đi).

Tuy nhà nghèo, nhưng ông được hưởng một nền giáo dục rất tốt, được cha dạy dỗ về căn bản cả văn lẫn võ, được gia đình chăm lo ăn học đến nơi đến chốn. Ông được cho đi học bậc tiểu học tại làng Mỹ Lộc, quận Tân Uyên và học rất giỏi. Nhờ đó, năm 1928, sau khi tốt nghiệp bậc tiểu học, ông đã giành được học bổng bậc trung học của Trường Petrus Ký. Sau khi lên Sài Gòn học ít lâu, cha ông tử nạn bởi bị rắn độc cắn. Toàn bộ gia đình ông trông nhờ vào người mẹ buôn bán nhỏ và người anh làm thầy giáo ở quê nhà.

Từ nhỏ, ông chịu ảnh hưởng tinh thần yêu nước của gia đình. Khi học bậc trung học tại trường Petrus Ký tại Sài Gòn, ông thường xuyên có thái độ bài Pháp thực dân và có thể đã có những tiếp xúc đầu tiên với những người Cộng sản. Trong tự truyện của mình, ông có ghi lại tên người Cộng sản đầu tiên tiếp xúc với ông tên là Phụng, gặp khi ông và người đó cùng chữa trị tại bệnh viện.

Sau khi tốt nghiệp với bằng Thành chung vào năm 1932, ông vào làm công chức tại Sở Hỏa xa Đông Dương (Sài Gòn). Thời gian này, ông được các cán bộ Cộng sản vận động, tham gia phong trào Đông Dương Đại hội vào năm 1936, một phong trào vận động thu thập dân nguyện đề nghị cải cách với chính quyền thực dân Pháp, bắt đầu hoạt động làm thơ, viết báo (tiếng Việt, tiếng Pháp) đăng trên các báo ở Sài Gòn với bút danh Hoàng Hồ. Năm 1937, ông được bí mật kết nạp vào Đảng Cộng sản Đông Dương lần thứ nhất.

Năm 1940, Khởi nghĩa Nam Kỳ nổ ra và bị chính quyền thực dân đàn áp khốc liệt. Vì là một đảng viên bí mật nên thân phận của ông không bị bại lộ. Nhưng do việc thường xuyên tiếp tế cho một bộ phận nghĩa quân rút về lập căn cứ ở Tân Uyên, năm 1942, ông bị phát hiện và bị truy bắt. May mắn là ông kịp đào thoát sang Thái Lan. Tại đây, ông hoạt động trong phong trào Việt kiều yêu nước, tổ chức xuất bản tờ báo Hồn cố hương, kêu gọi Việt kiều bào hướng về Tổ quốc, ủng hộ cách mạng.