公园内保存有大量的摩崖石刻，包括唐代画像石、宋代佛像石等。这里的石刻数量之多、雕刻技艺之高、保存完整度之高，在国内外都非常罕见，被誉为全国最大的摩崖石刻群落之一。公园内最具特色的景点是唐代画像石，这些石刻描绘了唐代人民的生活场景，包括行军、狩猎、耕作等，具有极高的历史、文化和艺术价值。此外，公园内还有众多的佛像石刻，其中最著名的是宋代的五层佛塔，塔身上雕刻着众多的佛像和佛教神仙。