Câu thành ngữ này có xuất xứ từ Hán thư – Cao Đế kỷ thượng.
Năm 206 công nguyên, Lưu Bang dẫn quân đánh vào đô thành Hàm Dương của nước Tần, lật đổ ách thống trị của triều nhà Tần. Ít lâu sau, Hạng Vũ mới dẫn quân đánh vào Hàm Dương giết chết hàng vương Tử Anh, thiêu sạch cung đình nhà Tần, sau đó cử người sang báo tin cho Sở Hoài Vương. Nhưng Sở Hoài Vương vẫn kiên trì làm theo lời hẹn trước là ai đánh vào Hàm Dương trước thì người đó làm Tần Vương. Hạng Vũ cậy mình binh lực hùng hậu đã tự phong làm Tây Sở bá vương, Lưu Bang chỉ được phong làm Hán Vương và bị cử sang ở đất Ba Thục, một miền đất hoang vu dân cư thưa thớt. Ít lâu sau, Hạng Vũ đã mật sai người hãm hại Sở Hoài Vương. Hành vi này của Hạng Vũ đã vấp phải sự phản đối mạnh mẽ của các nước chư hầu.
Khi Hán Vương Lưu Bang dẫn quân vào Lạc Dương, Đổng Công đã khuyên ông rằng: "Thuận nhân đức thì thịnh vượng, ngược lại thì tất bị diệt vong, xuất quân có lý do chính đáng thì việc lớn mới thành công. Nay Hạng Vũ ngang ngược giết chết vua Sở, các nước chư hầu đều tỏ ra vô cùng phẫn nộ, tôi khuyên ông hãy nắm bắt cơ hội này khởi binh trừng phạt hắn, người trong thiên hạ tất ủng hộ ông, như vậy ông có khác nào Võ Vương trước kia thảo phạt vua Trụ, xuất binh làm điều nhân nghĩa"
Lưu Bang nghe theo kiến nghị này, nên mới dẫn tới cuộc chiến tranh Sở Hán kéo dài trong 4 năm, cuối cùng Lưu Bang đại thắng và lập nên triều nhà Hán.