Annaud sinh ra ở Juvisy-sur-Orge, Essonne. Ông được đào tạo tại trường kỹ thuật ở Vaugirard và vào năm 1964 tốt nghiệp trường phim danh tiếng Institut des Hautes Études Cinématographiques (IDHEC) tại Paris. Ông bắt đầu sự nghiệp bằng cách chỉ đạo quảng cáo truyền hình vào cuối những năm 1960 đến đầu những năm 1970. Trong bộ phim đầu tiên của mình, Black and White in Color từ năm 1976, ông đã sử dụng kinh nghiệm cá nhân thu được trong thời gian phục vụ quân đội của mình ở Cameroon. Bộ phim đã giành giải Oscar cho Phim nói tiếng nước ngoài hay nhất. Bộ phim thứ ba của ông, Quest for Fire (La Guerre du feu), đã nhận được hai giải César cho phim hay nhất và đạo diễn xuất sắc nhất. Năm 1986, ông đã chỉ đạo bộ phim The Name of the Rose, một bộ phim chuyển thể từ tiểu thuyết phổ biến của Umberto Eco có cùng tên. Phiên bản phim, với kịch bản được viết bởi Andrew Birkin, đã giành được hai giải BAFTA và là chủ đề của 14 chiến thắng và 2 đề cử khác. Jean-Jacques Annaud đã dành bốn năm để chuẩn bị cho bộ phim, đi khắp Hoa Kỳ cũng như châu Âu, tìm kiếm dàn diễn viên và địa điểm quay phim hoàn hảo. Ông đã cảm thấy bản thân bị thu hút bởi dự án này, trong số những thứ khác, vì sự mê hoặc suốt đời với các nhà thờ thời trung cổ và sự quen thuộc với tiếng Latin và Hy Lạp. Đối với bộ phim Seven Years in Tibet, một bộ phim chuyển thể từ cuộc đời của Heinrich Harrer, ông đã nhận được lệnh cấm nhập cảnh vào Trung Quốc mãi mãi, cũng như các diễn viên Brad Pitt và David Thewlis. Năm 2000, ông đã viết và sản xuất bộ phim Running Free do Sergei Bodrov chỉ đạo. Ông cũng đã chỉ đạo bộ phim Enemy at the Gates năm 2001, mô tả các cuộc phiêu lưu của Vassili Zaitsev trong Trận Stalingrad. Tác phẩm gần đây nhất của ông được quay vào năm 2006, một bộ phim có tên là His Majesty Minor, được quay ở Benitatxell và Benigembla, chủ yếu ở khu vực Marina Alta, thuộc Cộng đồng Valencia. Dự án tiếp theo của Annaud sẽ là bộ phim chuyển thể từ tiểu thuyết bán chạy hàng đầu của Trung Quốc, Wolf Totem.