Chùa Giác Lâm là ngôi chùa xưa nhất ở Thành phố Hồ Chí Minh, còn tồn tại đến nay, được thành lập vào năm 1744 do người Minh Hương tên Lý Thụy Long quyên tiền xây dựng. Chùa nằm trên đồi cao nên còn có tên Sơn Can. Vị thế chùa đẹp đẽ với cỏ non xanh rờn như gấm nên còn có tên gọi là Cẩm Đệm. Theo tư liệu của người Hoa, chùa do đại sư Tịnh Hải sáng lập. Chùa khuyết trụ trì một thời gian. Sau này đến năm 1774, Hòa thượng Phật Ý cho đệ tử là Viên Quang về trụ trì. Từ khi về chùa, Thiền sư Viên Quang đã tổ chức nhiều Phật sư: lập Phật học viện, Phật học xá, thu hút tu sĩ khắp nơi về tu học. Chùa trải qua chín đời trụ trì, gồm các vị Tổ Tông Viên Quang, Tiên Giác Hải Tịnh, Minh Vi Mật Hạnh, Minh Khiêm Hoằng Ân, Như Lợi, Hồng Hưng Thạnh Đạo, Nhựt Dần Thiện Thuận, Lệ Sành Huệ Sanh. Các Thiền sư đều thuộc phái Lâm Tế, dòng đạo Bổn Nguyên, gốc từ tổ Nguyên Thiều nên chùa còn được gọi là Tổ đình.
Do là một trung tâm đào tạo tu sĩ khắp nơi ở Nam Bộ về tu học như chùa Bửu Phong, Long Thiền (Đồng Nai), Giác Viên, Giác Hải, Long Thạnh… (Thành phố Hồ Chí Minh), Phước Lâm, Phước Lưu (Tây Ninh), Linh Sơn, Thạnh Hòa (Long An), Vĩnh Tràng, Bửu Lâm (Tiền Giang), Bửu Lâm (Đồng Tháp), Tây An (An Giang), Huệ Quang (Bến Tre)… nên hiện nay tại những chùa này đều đặt thờ bài vị các tổ của chùa Giác Lâm.
Thời gian đầu thế kỷ XIX, Trịnh Hoài Đức, lúc ấy là Hiệp Tổng trấn Gia Định thành, có ghé chùa Giác Lâm, gặp lại người thầy của mình khi xưa, là Hòa thượng Viên Quang. Trịnh Hoài có đề tặng bài thơ Ngũ ngôn cổ điệu. Bài thơ ấy hiện được khắc chạm sơn mài có phần chữ Hán, phần phiên âm và dịch nghĩa, đặt tại nhà tổ.
Từ khi thành lập, chùa đã qua các lần trùng tu lớn vào những năm 1798, 1900, 1939, 2000… Trong chùa có 98 cột là lõi cây danh mộc quý, 86 câu đối. Toàn chùa có 118 pho tượng, trong đó có 113 pho tượng cổ, được tạc vào hai giai đoạn thế kỷ XVIII và thế kỷ XIX, 23 bức hoành phi, 23 bao lam và nhiều bộ ván dài gần 6 mét.
Thiền sư Tiên Giác Hải Tịnh là vị cao tăng, được Gia Long mời ra kinh đô dạy đạo cho hoàng gia. Thiền sư được phong tăng cang, là một chức sắc cao nhất của tu sĩ thời bấy giờ. Khi trở về miền Nam, Thiền sư được ban cho áo, mão, hài và giá võng để cung nghinh về. Hiện giá võng còn đặt tại chính điện chùa Giác Viên, quận 11, Thành phố Hồ Chí Minh.
Năm 1953, chùa nhận được quà tặng của đại đức Narada ở Sri Lanka mang sang gửi cho giáo hội Phật giáo Cổ truyền Việt Nam, đó là cây bồ đề và viên ngọc xá lợi Phật. Cây bồ đề hiện được trồng trước sân chùa. Ngọc xá lợi đang tôn trí trong tháp Ngũ Gia Tông Phái gần cổng vào chùa.
Thời gian có chiến tranh, Pháp chiếm đóng ở Gia Định cuối thế kỷ XIX, chùa may mắn không bị hư hại. Ngòi hoạt động Phật sự, là nơi tiến hành các kỳ an cư kiết hạ hàng năm, là nơi tổ chức lễ truyền giới cho tín đồ… chùa còn là địa điểm hoạt động kháng chiến chống xâm lược Pháp, Mỹ giai đoạn 1945 – 1975. Chùa có hầm bí mật, là nơi hoạt động, hội họp của cấp ủy, của Chi bộ Đảng cộng sản Việt Nam. Các tu sĩ trong chùa cũng tham gia cách mạng.
Hoạt động từ thiện xã hội là nét nổi bật của chùa sau năm 1975.
Trong ngày lễ khánh thành và cung nghinh xá lợi Phật nhập tháp Ngũ gia tông phái, có đến 10.000 người tham dự.
Hiện nay, mỗi ngày có hàng trăm lượt khách tham quan trong và ngoài nước đến viếng chùa. Chùa được công nhận là di tích lịch sử văn hóa cấp quốc gia vào ngày 16.11.1998.