Вблизи села Терновка, в скалистых обрывах горы Челтер-Кая («решетчатая скала»), даже с дороги видны четыре яруса пещер. В нижнем ярусе монастыря — шестнадцать изолированных друг от друга пещер, и еще две большие в западной части, представляющие собой естественные гроты, соединенные дверным проемом. Перед входом в одну из пещер стесана неровность скалы, так что в пещеру ведет плавный подъем, а в стенах сохранились следы от засовов и прорезаны пазы. Это говорит об использовании пещер для содержания скота. В некоторых помещениях видны вырубки для очагов в полу, а в стенах и на потолке — всевозможные проушины для подвешивания светильников.Пещеры монастыря Челтер со второго по пятый ярус составляют единый ансамбль и имеют общий ход-калитку на восточном краю второго яруса. К ней от подножия скалы ведут ступеньки вырубленной в скале лестницы. Она плохо сохранилась, но видно, что вход в монастырь располагался в неглубокой нише таким образом, что одной его стороной являлась скала, а другой – каменная стена. Над входом нависает козырек скалы, исключающий поражение сверху.На втором ярусе – хозяйственный комплекс. В полу его вырублено пять яйцеобразных емкостей, предназначенных для сбора дождевой воды, глубина их от 1,8 до 2,5 м. Центральное место в этом ярусе занимает большой естественный грот, общая длина которого 32 м. Свод его поддерживают пять колонн.

В восточной части грота — церковь. В храме нет южной и западной стен — в древности они были сложены из камня. Апсида полукруглой формы, в центре пола —основание для престола с углублением для мощей. В стене есть ниша-жертвенник и окно. Вдоль северной стены тянется скамья, рядом с которой в полу пять могил. В этом же гроте, в другой стороне, высечен тарапан. Вокруг монастыря до сих пор находят заросли одичавшего винограда. По краю скалы сохранились несколько зерновых ям, рядом, стоит лишь присмотреться, канавки, которые отводили дождевую воду от запасов зерна, собирая ее в особый водоем.

Третий ярус состоит из жилых, изолированных друг от друга помещений. Для входа в них с наружной стороны был сооружен деревянный настил, служивший одновременно и перекрытием галереи второго яруса. От настила к дверным проемам вели вырубленные в скале ступеньки. В стенах этих пещер, выходящих к обрыву — остатки оконных проемов. В случае непогоды они могли закрываться ставнями. В центральном помещении этого яруса вырублены две гробницы, над которыми видны слабые следы греческой надписи. Судя по углублениям в полу, пещера была разделена перегородками на четыре части, одна из них, с могилами — часовня. На ее потолке, на месте алтарной преграды вырублен крест, справа от престола в квадратной вырезке тоже крест. Два других помещения, выходящих к обрыву, имели балконы.

В четвертом ярусе тоже была церковь, вход в которую располагался над алтарем храма второго яруса. В настоящее время он разрушен, и без специального снаряжения туда не подняться. А было бы любопытно взглянуть на кресты, высеченные на стене алтаря и остатки греческой надписи: «раб божий… 6911-й (1403 год)».

На пятый ярус, то есть  верхнее плато — можно подняться по ступенькам, вырубленным в скале с западной стороны монастыря. Через естественный полузасыпанный карстовый провал можно пройти к часовне. Она невелика, на ее стенах много граффити, часть южной стены обрушилось. Рядом — естественная пещера, уходящая на несколько десятков метров вглубь горы.