Chùa Ông nổi bật giữa dãy phố Hai Bà Trưng với kiến trúc, màu sắc rực rỡ đặc trưng của dân tộc Hoa. Chùa được trang trí bằng những hình nhân bằng sành sứ tái hiện những điển tích, truyền thuyết Trung Hoa như Bát Tiên quá hải, chuyện Tam Quốc Chí... trên bờ nóc và hai bên cổng tam quan. Những chiếc lồng đèn được treo hai bên cửa. Hai cột đá chính của cổng tam quan được trang trí thêm đôi lân; mái ngói âm dương với các gờ bó ngói ống men xanh thẫm; bờ nóc trang trí những hình lưỡng long chầu nguyệt, cá hóa rồng, phụng hoàng... bằng gốm sứ đủ màu. Hai đầu đao còn có tượng người cầm mặt trăng mặt trời tượng trưng cho tư duy “nhị nguyên” của triết học phương Đông.