Пещерно-крепостной комплекс Зарни-Парни находится к западу от Ахпата, на высоком правом берегу притока Дебеда — Джагацаджур (Живанкаджур), напротив крепости Каян. Пещеры расположены у подножия высокой базальтовой скалы. Жители Ахпата называли памятник «Зарни эр», «Парни эр» и «Хин берд» (Старая крепость).
Площадь пещеры Зарни составляет около 600 кв. м. Пол пещеры постепенно поднимается вглубь, а в южной части с потолка капает вода. В конце X или начале XI века открытая часть пещеры была закрыта стеной длиной около 30 м, высотой 8–10 м и толщиной около 1,5 м. Стена сложена из крупных колотых глыб базальта на известковом растворе.
Предполагается, что пещера служила убежищем и хранилищем во время войн и набегов кочевых племён. Также во время русско-персидской войны 1827 года здесь укрывалась часть жителей окрестных сёл.
Над пещерой Зарни находится пещера Парни. Она также укреплена стенами, а внутри сохранились водоём из камня на известковом растворе и глиняные трубы. Ещё выше расположена труднодоступная пещера Цак эр.
Долгое время памятник был недоступен. В 2016–2019 годах он был восстановлен и благоустроен по инициативе жителя Алаверди Рубена Месробяна. В ходе реставрации были проведены также работы по укреплению и обеспечению безопасности.