Địa hình huyện có nhiều đồi núi, thung lũng và sông suối. Phía Tây Bắc có dãy núi Cái Kỳ với đỉnh cao nhất là Ngà chạy dài ra cửa sông Ba Chẽ, theo hướng Đông Bắc-Tây Nam, ranh giới thiên nhiên giữa Tiên Yên và Ba Chẽ. Dưới chân núi là một dải đồng bằng ven biển và vùng biển Hà Dong thuộc xã Hải Lạng, một trong những xã trù phú nhất Tiên Yên. Phía Bắc là vùng đồi núi trùng điệp của các xã Điền Xá, Hà Lâu, Phong Dụ nối tiếp với huyện Đình Lập và Bình Liêu. Phía Đông có dãy núi Pạc Sủi và Thang Châu chạy theo hướng Bắc Nam, thấp dần xuống phía biển tạo thành vùng đồng bằng duyên hải. Qua dãy Pạc Sủi là thung lũng Đại Dực, còn nằm giữa hai dãy núi phía Đông và Tây là thung lũng Tiên Yên.