Với vai trò là một diễn viên điện ảnh, Klugman là biểu tượng của một người bình thường. Ông là một trong những người tiên phong trong lĩnh vực diễn xuất trên truyền hình vào những năm 1950 và được nhớ đến nhiều nhất với công việc của mình trên truyền hình vào những năm 1970, trong vai Oscar Madison trong bộ phim "The Odd Couple" (1970) và với vai giám định y khoa trong bộ phim "Quincy M.E." (1976).