Sev Berd, connu sous le nom de forteresse noire, est un puissant point de repère historique à Gyumri. L'Empire russe a construit ce fort circulaire massif en 1834 pour défendre ses frontières méridionales après la guerre russo-turque. Son nom vient de la pierre volcanique noire locale utilisée pour ses murs, qui donne à l'édifice son aspect sombre et intimidant.
La forteresse est conçue comme un cercle parfait et comporte des fenêtres étroites pour le tir et un système de drainage perfectionné. Dans le passé, elle était reliée à d'autres fortifications voisines par des tunnels souterrains secrets. Bien que la forteresse n'ait jamais été attaquée, elle a joué un rôle clé pendant les guerres du XIXe siècle entre les empires russe et ottoman.
Aujourd'hui, le site a été transformé d'une base militaire en un centre culturel majeur. Après avoir été restauré, l'intérieur sert désormais de grand amphithéâtre avec une excellente qualité sonore. Il accueille des concerts et des événements internationaux, offrant aux visiteurs la possibilité de découvrir l'histoire tout en profitant de la vue sur la ville et la frontière voisine.