Ông lập chiến khu ở vùng Yên Thế thuộc Bắc Giang (nay là Hà Bắc) nghiễm nhiên là
vị Đề lĩnh kiệt hiệt trong phong trào Cần vương, nên tục gọi là Đề Thám với hỗn
danh là Hùm xám Yên Thế.Từ năm 1886, ông trở thành lănh tụ nghĩa quân Yên Thế
với chiến khu và địa bàn hoạt động quanh vùng Bắc Giang - Thái Nguyên - Hưng
Hóa, khiến giặc Pháp kinh hoàng. Giặc Pháp phối hợp với Tổng đốc tay sai Lê Hoan
một mặt đàn áp một mặt chiêu hàng, nhưng chúng vẫn không dẹp được ông. Đến năm
1894 chúng chịu điều đ́nh và cắt nhượng cho ông 6 tổng gồm 22 làng ở Phồn Xương
để ông lập đồn điền, lập khu tự trị đưa đến giải trừ quân bị.
Nhưng thật sự Ông chỉ trá hàng chứ không buông vũ khí. Năm 1905 sau khi tiếp
xúc với Phan Bội Châu, Phan Châu Trinh, Phạm Văn Ngôn (Tú Nghệ) ông lại vùng lên
kháng chiến chống Pháp quyết liệt hơn trước, địa bàn hoạt động cũng mở rộng hơn
với tổ chức" Đảng Nghĩa Hưn"g và" Trung chân ứng nghĩa đạ"o do ông làm lănh tụ,
từ đấy suốt 8 năm ông tiếp tục chiến đấu, gay tổn thất nặng cho quân Pháp và
toán quân tay sai do Lê Hoan cầm đầu.
Cuối cùng đêm 10-2 năm Qúi sửu (18-3-1915) ông bị thuộc hạ là Lương Tam Ḱ
phản bội ám sát ông tại một nơi cách chợ Gồ 2 cây số, hưởng dương 55 tuổi.
