James Gleason sinh ra tại Thành phố New York trong một gia đình hoạt động trong lĩnh vực kịch nghệ, với cha là William Gleason và mẹ là Mina Crolius. Ông kết hôn với Lucile Gleason (nhũ danh Lucile Webster) và có một con trai tên Russell Gleason. Khi còn trẻ, James tham gia vào Chiến tranh Tây Ban Nha - Mỹ. Sau chiến tranh, ông gia nhập công ty cổ phần tại Nhà hát Liberty ở Oakland, California, nơi cha mẹ ông đang quản lý. Sau đó, James và vợ ông chuyển đến Portland, Oregon, nơi họ biểu diễn trong các vở kịch tại Nhà hát Baker. Trong nhiều năm sau đó, họ đi lưu diễn trong các chương trình đường phố cho đến khi James nhập ngũ trong Thế chiến I. Khi trở về, ông xuất hiện trên sân khấu trong vở "The Five Million". Sau đó, ông chuyển sang viết kịch, bao gồm cả "Is Zat So", một tác phẩm ông sản xuất cho sân khấu New York. Ông cũng viết và diễn xuất trong "The Fall Guy" và "The Shannons on Broadway". Tiếp theo, ông напис The Broadway Melody (1929) cho MGM. Ông cộng tác vào năm 1930, với các tác phẩm như The Swellhead (1930), Dumbbells in Ermine (1930), What a Widow! (1930), Rain or Shine (1930) và His First Command (1929). Sau đó, vợ chồng ông được ký hợp đồng với Pathe, với Lucille diễn xuất và James (hay Jimmie, như ông thường được gọi) làm viết kịch. Vai diễn nổi tiếng nhất của ông có lẽ là vai Max Corkle, người quản lý Joe Pendleton, người bị lầm lẫn khi bị đưa từ cuộc sống này sang cuộc sống sau, trong bộ phim giả tưởng nổi tiếng Here Comes Mr. Jordan (1941).