Hang đá được xây dựng từ rất sớm, cũng được gọi là hang toại đạo, nơi ẩn náu của các vị Thừa sai khi các ngài rao giảng tại đây. Bên trong hang đá có nhà nguyện nhỏ, và giấu bên dưới là hai phòng nhỏ làm nơi trú ẩn. Các vị Thừa sai khi rao giảng tại Sở Kiện đã gặp phải không ít khó khăn và bách hại do triều đình cũng như các phong trào đánh đuổi người Tây và giết hại người Công giáo (ảnh hưởng của phong trào Văn Thân với khẩu hiệu “Bình Tây sát Tả”), vì thế nên căn hầm là nơi kín đáo, an toàn để các ngài trú ẩn, và cử hành các Bí tích. Các cụ nơi đây truyền lại xưa kia có đường hầm từ hang đá đi ra đến bờ sông. Mỗi khi có biến động cảm thấy không được an toàn, thì các ngài xuồng đường hầm ra bờ sông, ở đó có thuyền chở các ngài lên núi trú ẩn. Đường hầm này có lẽ từ khi xây dựng nhà thờ đã bị dỡ bỏ.
Cây Si cổ thụ cao lớn sừng sững trên vách đá cheo leo đã chứng kiến biết bao chặng đường lịch sử thăng trầm mà Giáo xứ đã đi qua.
BTT TTHH Sở Kiện
