Chùa Mui xưa kia vốn là một Đạo quán của Đạo giáo, tương truyền có từ rất lâu đời, cùng với một loạt đạo quán khác dọc sông Đáy. Tuy nhiên thời của các đạo sĩ đã đi qua, đạo quán hoang vắng, không còn hương khói, nên người dân trong làng chuyển sang thành chùa thờ Phật.
Dù thành chùa thờ Phật, nhưng cũng không ai dám bất kính mà hạ các thánh tượng Đạo giáo xuống, cho nên hệ thống tượng thờ chủ yếu vẫn là của Đạo giáo, tượng Phật xem chừng chiếm vị trí khiêm tốn hơn.
Trên bàn thờ cao nhất tại thượng điện, là tượng Tam Thanh, ba bậc thần tiên tối cao Đạo giáo. Tam thanh gồm:
- Ngọc thanh là Nguyên Thủy Thiên Tôn
- Thái thanh là Đạo Đức Thiên Tôn (tức Thái Thượng Lão Quân)
- Thượng thanh là Linh Bảo Thiên Tôn
Ba vị này là khởi thủy, khởi tổ của Vũ trụ, hóa thân thành vũ trụ và nắm tất cả các quy luật của càn khôn. Tượng Tam thanh của Việt Nam - có lẽ chịu ảnh hưởng của Đạo Mẫu, nên cũng mặc áo ba màu như của Tam tòa Thánh mẫu: Màu đỏ ở giữa, màu lục bên trái và màu trắng bên phải.
Phía trước tượng Tam Thanh là một bàn thờ bằng đất nung rất đẹp, hình như có từ đời Mạc, đã gần 500 năm, với các họa tiết ở góc giống bàn thờ đời Trần, với các con chim thần garuda, ở giữa là các con rồng cuộn, và các cánh sen rất đẹp.