Под «острогом» первоначально понималось укрепление, защищавшее тот или иной пункт от нападения неприятелей. Такое укрепление состояло из бревен, заостренных вверху и врытых достаточно глубоко в землю. Острогом называлась и эта стена из бревен. Позднее такие же стены-остроги стали окружать тюрьмы, на которые и распространилось название «острог».
Позднее стены из бревен, врытые в землю, стали заменяться каменными с башнями на углах, и тюрьма по своему внешнему виду стала напоминать замки или стены кремля. Тип тюрьмы-замка стал распространяться с конца XVIII в.
Одним из первых описаний тюрьмы относится к 1775 г. к каторжной тюрьме в Рогервике (бухта в Финском заливе). Оно было сделано очевидцем — караульным офицером Андреем Болотовым.
Огромная стена из толстых бревен окружала участок земли, посредине которого стояло здание тюрьмы. Автор называет его «привеликим и огромным». Внутри этого здания находились арестантские помещения, названные Болотовым «казармами и светлицами» (очевидно, казармы — это камеры общего заключения, а светлицы — одиночные камеры). По словам автора, эти помещения «были набиты полно злодеями» в количестве до 1000 человек. Арестанты размещались внутри здания на нарах, расположенных в два яруса. Но наибольшее количество заключенных размещалось на койках, привешенных к потолку.
Все арестанты были закованы в кандалы, а многие имели даже «двойные» и «тройные железа» для безопасности, чтобы не могли уйти с работы. Более всего поразило Болотова обилие в остроге вшей. Производя ежедневную перекличку арестантов, он сам обовшивел. Для предохранения себя от вшей, дождем сыпавшихся с подвешенных к потолку коек, Болотову пришлось надевать на голову шляпу с широкими полями и облекаться в плащ («Жизнь и приключения Андрея Болотова, описанные самим им для своих потомков», 1738–1793 гг., «Русская старина», 1870, т. 1, приложение, стр. 338).
По-видимому, самым лучшим зданием острога в России было воздвигнутое в Москве, надо полагать, после 1775 г. Этот острог состоял из четырех отделений, примыкавших своими коридорами к общему центру, где находилась церковь. За общей оградой, кроме этого центрального здания острога, находились четыре мощеных двора и несколько жилых строений и зданий для разных надобностей. В одном из зданий были квартиры тюремного духовенства и палачей — «заплечных мастеров» (таково их официальное название).
В остроге было много помещений, в том числе больница. Было много разных кладовых: для обуви, для продуктов и др. Имелись кухня, прачечная, квасная, пекарня. Воинские арестанты помещались в особой казарме. В особой камере помещались гражданские чиновники. Подследственные не смешивались с осужденными. Для женщин было особое помещение. Поддержание чистоты было возложено на самих арестантов. Это описание московского тюремного замка — официальное. Оно было опубликовано в 1817 г. и оставалось единственным опубликованным за очень долгий период.