Xuất thân trong một gia đình thổ hào người Nùng yêu nước, thuộc tổng Lâu Thượng, châu Võ Nhai, tỉnh Lạng Sơn (nay là xã Phú Thượng, huyện Võ Nhai, tỉnh Thái Nguyên), cụ thân sinh là Chu Văn Hòa đã tham gia nghĩa quân Hoàng Hoa Thám chống Pháp nhiều năm. Khi biết Chu Văn Tấn hoạt động đánh Tây, cụ đồng tình tạo mọi điều kiện cho con đi công tác. Mãi năm 1944, khi thực dân Pháp cho quân bao vây, càn quét căn cứ Bắc Sơn, cụ nói với con: “16 tuổi tao đã cầm cái súng chống thằng Tây, ở đội quân của cụ Đề Thám. Giờ tao già không làm được thì chúng mày làm đi...”.