Первая постройка Марко не сохранилась, но ее возможно описать по дошедшим до нас изображениям, в частности – по рисунку из книги «Избрание на царство». Казенный двор представлял собой относительно небольшое кирпичное здание, состоявшее из двух частей: одна из них, вплотную примыкавшая к апсиде Благовещенского собора, была сравнительно невысока и покрыта двухскатной тесовой кровлей; другая же, казавшаяся по сравнению с первой башней довольно внушительной, завершалась высоким шатром. Совершенно гладкие, без всякой архитектурной отделки, стены этого здания завершались в его башнеобразной части широким карнизом. Казенный двор был соединен переходами со всей остальной частью Теремного дворца.
В 1487 г. Марко Фрязин к западу от Благовещенского собора строит Малую Набережную палату, которая также не сохранилась, но была тщательно зафиксирована в обмерном чертеже Д. Ухтомского перед ее перестройкой в 1751 г. Это было двухэтажное кирпичное здание, перекрытое сводами. Над подвальным этажом возвышался подклет, а во втором этаже размещались две палаты – Столовая и Ответная, каждая со своим выходом.
Фасад Набережной палаты, если судить по чертежу Ухтомского, интересен тем, что отделан деталями, впервые примененными в русской архитектуре: это треугольные сандрики над окнами первого этажа, арочки второго и широкий, полного профиля карниз, венчающий все здание. Горизонтальные тяги отделяют этаж от этажа, пропорции окон и их расстановка оставляют большие свободные плоскости стен. Все это в своей совокупности создает новый образ общественного здания, в котором «италианизмы» звучат сильнее, чем в других гражданских сооружениях Кремля. Этим зданием, существовавшим до середины XVIII века, Марко Фрязин как бы предвосхитил характер архитектуры Арсенала в Кремле, а может быть, и повлиял на нее.
Одновременно с Малой Набережной палатой, в 1487 г., «совершил Марко Фрязин стрельницу, на угле вниз по Москве Беклемишевскую». Он поставил ее на месте угловой башни белокаменной крепости 1367 г. и тем самым завершил строительство кирпичных стен южной стороны Кремля. Внутри башни Марко Фрязин устроил тайник-колодец.
Москворецкая башня, как иначе называет ее летопись, уцелела до наших дней. В 1680 г. башня была надстроена многогранным шатром, а в 1707 г. у ее подножия в ожидании возможного наступления шведов были насыпаны земляные валы и несколько растесаны бойницы для установки более мощных орудий (во время реставрации 1948 г. бойницам были приданы первоначальные размеры и формы).
Выше уже говорилось, что кремлевские башни XV-XVI веков следует представлять без шатровых завершений, сооруженных почти двести лет спустя. В Беклемишевской стрельнице особенно легко провести границу между старой и новой ее частями. Вслед за машикулями, выступающими за пределы всего объема, нависающая верхняя часть когда-то несла зубцы в виде ласточкиных хвостов. Затем их заменили типовым для всех башен Кремля кирпичным парапетом с ширинками. По сравнению с Водовзводной башней Беклемишевская до предела лаконична. Ее высокий и стройный цилиндр поставлен на скошенный белокаменный цоколь и отделен от него полукруглым валиком. И больше никакого декора, ничего, что могло бы нарушить образ боевой стрельницы. Башня хороша не только сама по себе, но и тем, что обогащает силуэт этой части города. От нее углом расходятся стены Кремля и близко несет свои тихие воды река. Она видна с Замоскворечья, от Красной площади и прилегающих улиц Китай-города.