Tào Tháo vây đánh nhiều ngày không sao phá được, bèn trút tức giận lên dân thường để trả thù cho cha. Ông ra lệnh tàn sát hơn 10 vạn người ở 5 thành Thủ Lự, Tuy Lăng, Hạ Khâu, Bành Thành, Phó Dương cùng các hương trấn sở thuộc.
Trong khi đó các chư hầu trong liên minh đánh Đổng Trác đã tan rã và đánh lẫn nhau, cát cứ ở các châu quận. Tào Tháo đã đánh được quân Khăn Vàng và làm chủ Duyện Châu, giáp ranh Từ Châu của Đào Khiêm.
Đào Khiêm vốn trước không tham gia liên quân chống Đổng Trác, khi Đổng Trác bị giết (tháng 4 năm 193), Đào Khiêm vẫn ủng hộ triều đình Trường An do thủ hạ của Đổng Trác là Lý Thôi và Quách Dĩ nắm quyền. Lý Thôi cũng muốn yên ổn phía đông bèn nhân danh Hán Hiến đế thăng ông làm Châu mục Từ Châu. Khi đó trong huyện Hạ Bì thuộc Từ Châu có viên tướng Khuyết Tuyên khởi binh chống triều đình, tự xưng làm hoàng đế. Để lung lạc Khuyết Tuyên, Đào Khiêm ban đầu cho người đi lại giao hảo để Tuyên mất cảnh giác. Tháng 6 năm đó, ông ra quân đánh dẹp. Khuyết Tuyên lơ là phòng bị nên bị Đào Khiêm giết chết.
Cùng thời điểm Đào Khiêm ra tay đánh Khuyết Tuyên thì xảy ra vụ án mạng Tào Tung – cha Tào Tháo. Giữa năm 193, Tào Tung từ Lạc Dương cùng con út là Tào Tật và gia quyến tới Lang Nha định dưỡng lão, mang theo hơn 100 xe hành lý chứa nhiều vàng bạc châu báu. Tào Tung đi ngang qua Từ Châu được thứ sử Từ Châu là Đào Khiêm vì khiếp sợ trước uy phong và dã tâm của Tào Tháo, đã sai bộ tướng đi hộ tống Tào Tung để lấy lòng Tào Tháo.
Tam quốc chí của sử gia Trần Thọ, chép rằng Đào Khiêm sai thủ hạ là Trương Cương đi hộ tống cho Tào Tung, khi đoàn đến địa phận giữa Thái Sơn và huyện Hoa, huyện Phí thì Trương Cương nổi lòng tham của cải, nên đã giết chết ông và cướp hết đồ rồi bỏ trốn đến Hoài Nam.
Sách Hậu Hán thư thì không nói rõ viên tướng nào giết Tào Tung, chỉ nói rằng do quân sĩ của Đào Khiêm đóng ở huyện Âm Bình do nổi lòng tham nên đã giết Tào Tung cướp của cải.
Tào Tháo nghe tin cha bị hại ở Từ Châu, cho rằng Đào Khiêm đồng mưu sai khiến thủ hạ, bèn cất vài chục vạn quân đi đánh Từ Châu để trả thù. Tào Tháo cũng muốn nhân đó chiếm luôn địa bàn Từ Châu liền kề với Duyện Châu để mở rộng thế lực.
Tào Tháo dốc quân, đã nhanh chóng chiếm lĩnh hơn 10 thành, Đào Khiêm ra quân chống lại, hai bên đụng độ ở Bành Thành, sau đó đánh bại quân Đào Khiêm ở Bành Thành, chém hơn 1 vạn quân Từ châu, nước sông Tứ Thủy vì vậy không chảy được.
Đào Khiêm rút vào thành Đan Dương cố thủ, sai người đi cầu cứu thứ sử Thanh châu là Điền Khải – thủ hạ của Công Tôn Toản ở U Châu. Điền Khải lúc đó đang bị Viên Thiệu đánh, bèn báo cáo cho Công Tôn Toản – người đang tranh giành Hà Bắc với Viên Thiệu. Toản sai Lưu Bị cùng Quan Vũ và Trương Phi đi cứu Thanh Châu. Nghe Đào Khiêm cầu cứu, Khải lại sai Lưu Bị cầm quân đi cứu Từ Châu trước.
Lưu Bị có 4000 quân, chiêu hàng được vài ngàn nạn dân Ô Hoàn, rồi lại được Đào Khiêm cấp 4000 quân nữa, có hơn 1 vạn người, cùng Đào Khiêm thế thủ ở Đan Dương. Tào Tháo vây đánh nhiều ngày không sao phá được, bèn trút tức giận lên dân thường để trả thù cho cha. Ông ra lệnh tàn sát hơn 10 vạn người ở 5 thành Thủ Lự, Tuy Lăng, Hạ Khâu, Bành Thành, Phó Dương cùng các hương trấn sở thuộc. Không chỉ bản dân 5 thành mà nhiều người dân ở Thiểm Tây vì tránh nạn Lý Thôi, Quách Dĩ kéo về đó cũng bị hại.
Không lâu sau, chính thủ hạ của Tào Tháo là Trần Cung hợp tác với Trương Mạo tôn Lã Bố làm chủ, đánh chiếm Duyện châu của Tào Tháo. Tào Tháo buộc phải ngừng vây Từ châu, mang quân trở về cứu.
Trong tiểu thuyết Tam quốc diễn nghĩa, cái chết của Tào Tung được mô tả ở hồi 10. Tào Tung đi đến Từ Châu được Đào Khiêm sai Trương Khải (không phải Trương Cương như sử sách nêu) hộ tống. Gặp trời mưa nên đoàn phải nghỉ lại một ngôi chùa. Trương Khải ban đêm thúc quân nổi loạn.
La Quán Trung mô tả cái chết của Tào Tung khi ông dắt một người thiếp định chạy qua buồng phương trượng rồi nhảy qua tường trốn nhưng người thiếp quá to béo không thể ra được, nên phải chạy vào ẩn trong nhà tiêu rồi cả hai đều bị sát hại.
Với quan điểm phản đối Tào Tháo, La Quán Trung cho rằng cái chết của Tào Tung là quả báo của việc Tào Tháo đã giết hại oan cả nhà Lã Bá Sa trên đường chạy trốn trước đây, qua bài thơ:
A Man vốn có tiếng gian hùng
Hại cả nhà Sa trời chẳng dung
Hại người rồi bị người khác hại
Lòng trời báo ứng mạng Tào Tung.
Bàn về cái chết của Tào Tung, sử gia Lê Đông Phương cho rằng lẽ ra trong thời loạn lạc, Tào Tung không nên mạo hiểm di dời với số đông người và nhiều của cải trong một hành trình dài đến thế. Ngoài ra, việc dùng nhiều tiền mua quan chức và số lượng của cải lớn khi di dời của Tào Tung cũng được các sử gia xem là kết quả của sự vơ vét trong quá trình làm quan ở Lạc Dương.
Trong phim Tam quốc diễn nghĩa 2010, Trương Khải được Đào Khiêm sai đi hộ tống Tào Tung, nhưng do Trương Khải là dư đảng của Hoàng Cân nên không được Đào Khiêm trọng dụng, nhận thấy theo Đào Khiêm không có được tương lai gì, Trương Khải cùng binh lính của mình đã giết chết Tào Tung để cướp tài sản rồi đến Ngũ Phụng sơn làm cướp.