남조 양(梁) 천감(天監) 연간에 지어진 사원이다. 원래 명칭은 묘보명탑원(妙普明塔院)이었으나 당대 고승인 한산자(寒山子)가 이 곳에서 머문 후에 그의 이름을 따 한산사로 명칭이 바뀌었다. 대웅전은 높이가 12.5m이며, 뒷 편에는 유명한 종이 있는데, 높이가 2m이고 직경이 1.4m이다. 당대의 청동 유두종을 모방하여 만들어진 것으로 일본인이 광서(光緖) 32년에 바친 것이다. 하지만 현재의 건물은 일부 파괴되어 신해혁명이 일어난 해인 1911년에 다시 지어진 것이다.

한산사는 당나라의 시인 장계(張繼)의 《楓橋夜泊》이라는 시로도 유명하다. 장계는 노를 저어 마을로 돌아가던 중 밤중에 풍교에 배를 정박해 두고 있는데 그 때 마침 한산사의 종소리가 울려 퍼지자 이 시를 지었다고 한다.