Варняй выросли в историческом центре Жемайтии и связаны с развитием епархии, переносом кафедры и духовным образованием. Муниципальный туристический маршрут отмечает в городе комплекс собора Святых Петра и Павла, Лурдскую часовню на кладбище и церковь Святого Александра. По данным епархиального описания, первые попытки строительства кафедрального храма относятся к 1421 году, а в 1463 году была возведена деревянная кафедра во имя Петра и Павла. Каменный храм, построенный в 1681-1691 годах епископом Казимиром Пацом, сильно пострадал от пожара 1817 года и позднее был восстановлен. После подавления восстания и переноса епархиального центра в Каунас в 1864 году собор стал приходским храмом Новых Варняй. Рядом сохранилась память о семинарии и духовной жизни города. Природная история раскрывается в Варняйском региональном парке: здесь находятся крупное озеро Лукстас, курганы Шатрия, Гиргждуте, Мотерайтис и другие памятники, а также археологический резерват у озера Биржулис. Современное посещение Варняй требует разделять храмовый маршрут, музейно-историческую прогулку и выезд по парку, поскольку охраняемые территории имеют собственные правила.