Lịch sử địa phương chép, vào khoảng năm 1757, có đoàn người từ vùng Quảng Nam, Quảng Ngãi theo lời kêu gọi của quan Điều khiển Nguyễn Cư Trinh đã vượt biển vào Nam khai hoang, lập làng dọc theo sông Ba Rày. Tục lệ bấy giờ, khi lập ấp phải dựng một ngôi miếu thờ bà Chúa Xứ, còn lập làng thì dựng đình thờ Thành hoàng bổn cảnh.
Vị thần Thành hoàng đầu tiên được thờ ở làng Cẩm Sơn có danh hiệu đầy đủ là anh hùng Đoan hiến Chiêu liệt Mục túc Tĩnh uyên, Hiệp tường, Hiển hựu, Thiện hựu, Nhu nhã, Đoan thống, Thiện trinh, Diệu ứng, Chánh trực Huệ châu Tống thiên Quốc sư Đại vương tôn thần. Vị thần này chính là Quốc sư Huệ Sinh, từng làm quân sư theo vua Lý Thánh Tông thân chinh đi đánh Chiêm Thành.
Sách Việt Điện U linh tập chép: "Khi thuyền vua ra cửa biển, thình lình bão to mưa lớn, sóng nổi ngùn ngụt, thuyền không tiến được. Đêm đến, vua mộng thấy một người đàn bà, áo trắng, quần lục, nói với vua: "Tôi là tinh đất nước Nam, giả làm một cây gỗ đã lâu năm để đợi thời. Nay thời đã đến. Giúp vua không chỉ đánh được giặc, mà nước nhà còn có chỗ nhờ". Nói xong, biến mất. Tỉnh dậy, vua sợ, đem việc hỏi chung quanh. Quốc sư Huệ Sinh nói nên tìm cây gỗ có thần ẩn. Quân lên núi, thấy một cây gỗ hình người, đem xuống thuyền. Vua sai lấy gỗ ấy làm tượng, mặc áo quần như thấy trong mộng và ban hiệu Hậu thổ phu nhân, đặt ở thuyền vua. Sóng gió đều yên lặng. Về đến kinh, vua sai lập đền thờ ở làng Yên Lãng".
Từ đó, dân gian xem Quốc sư Đại vương là một trong những vị thần phù hộ người đi biển. Đặc biệt, vùng này chỉ duy nhất có một ngôi đình thờ vị Quốc sư nên phải cúng chay. Cứ 3 năm thì tổ chức trai đàn theo khoa nghi Phật giáo để cầu siêu cho những người đi khai hoang thời đó chết chìm mất xác ngoài biển khơi.
Theo lời kể của các bô lão, miếu Thần ăn chay đầu tiên ở rạch Vàm Nhựa, được xây dựng 4 nóc: võ ca, võ qui, chánh điện và nhà tiền vãng kết cấu sườn gỗ, vách ván, nền lót gạch, mái lợp lá. Khoảng năm 1924, miếu được trùng tu, xây cất lại, lợp ngói, bên trong trang trí nhiều hương án, hoành phi, câu đối.
Năm 1947, theo lệnh tiêu thổ kháng chiến của Mặt trận Việt Minh, người dân dỡ chánh điện và đem hương án, khánh thờ… xuống thờ tại nhà tiền vãng. Đến năm 1955 thì mua một ngôi nhà xưa ở miệt Cái Bè đem về cất lại ngôi đình. Được 10 năm thì đình bị trúng bom cháy rụi. Bấy giờ, ban khánh tiết làm đơn khiếu nại và cử ông Trương Văn Biết nhận số tiền bồi thường của chính quyền Việt Nam Cộng hòa rồi giao lại cho Mặt trận Giải phóng tỉnh Mỹ Tho.
Đến năm 2009, dân địa phương xin cất lại ngôi đình để có nơi thờ tự theo truyền thống. May mắn, ông Trương Văn Biết còn giữ được giấy biên nhận của Mặt trận Giải phóng năm xưa nên UBND tỉnh Tiền Giang đã hỗ trợ 400 triệu đồng cất lại ngôi đình. Nhưng nền đình cũ giờ đã xây trường học, vì vậy chính quyền địa phương phải cấp đất chỗ khác để xây dựng.
Thần ăn chay và thần ăn mặn
Làng Cẩm Sơn được sắc Bổn cảnh thành hoàng vào đời vua Thiệu Trị. Miếu Thần ăn chay đổi lại là đình. Dân gian gọi là đình Thần ăn chay, tên chữ là Cẩm Sơn trai đình, nhưng lễ hội cúng chay cũng không được suôn sẻ. Trong làng, hương chức chia thành 2 phe. Một phe chủ trương cần phải mổ heo cúng tế như những đình làng khác. Một phe muốn giữ tục lệ truyền thống. Vậy là xảy ra chuyện đêm tối, có người mặc áo đội mũ lên ngọn cây cổ thụ giả làm… thần hiện về rên la: "Cúng chay lạt lẽo, ăn xót ruột quá".
Bấy giờ, trong làng có ông Hương cả Long không tin chuyện đó. Ông bí mật cho người theo dõi và bắt được người giả dạng Thành hoàng. Phe đòi cúng mặn cũng không chịu thua. Họ cho rằng thần Thành hoàng cũng phải làm theo "nhiệm kỳ" như quan lại địa phương, vài ba năm phải luân phiên thay đổi. Họ vịn cớ triều đình đã sắc phong cho vị Thành hoàng mới thay thế cho vị "Thần ăn chay" và ra lệnh giết heo tế lễ.
Trong khi đó, phe chủ trương cúng chay tìm cách đối phó. Họ bí mật mua chuộc người mổ heo. Lúc con heo tế thần bị đâm họng cạo lông đem ra bờ sông chờ mổ bụng, họ cho người lấy dây buộc vào chân heo và cho một người khác ngồi bên kia bờ sông kéo qua. Dân làng xúm lại xem chuyện lạ. Họ còn tung tin, thịt đã nấu chín nhưng khi để trên bàn tế thì thịt nhảy ra khỏi mâm. Rồi bảo Thành hoàng không chịu ăn mặn.
Cuộc tranh chấp đến hồi gay gắt thì có ý kiến nên làm sớ dâng triều đình xin cất thêm cơ sở thờ một vị "thần ăn mặn". Lúc bấy giờ, cháu nội Nguyễn Cư Trinh là Nguyễn Cư Sĩ làm Bố chánh Định Tường chấp nhận ý kiến đó. Vậy là khoảng năm 1852, làng Cẩm Sơn có một ngôi đình thờ "Thần ăn chay" và một ngôi miếu thờ "Thần ăn mặn".
Thời chiến tranh, miếu Thần ăn mặn bị trúng bom sập. Sau này, địa điểm đó được sử dụng làm trường học, dấu vết xưa không còn, nhưng nhiều người vẫn còn nhớ kiến trúc ngôi miếu ấy, nhất là câu đối khoán thủ hai chữ Cẩm Sơn do ông Nguyễn Văn Đáo ghi lại: "Hương chức lão thành nhan tợ Cẩm/ Thôn dân tráng đại lực như Sơn".