Гамсахурдия начал энергично создавать новые органы власти взамен советских. Однако кроме бюрократии ему требовалась армия. Как обычно, основой вооруженных сил стали части МВД и добровольцы. Из них с декабря 1990 года начали сколачивать национальную гвардию. «Мхедриони» осталась вне процесса, и ее попытались распустить, но правительство оказалось не в силах что-либо с ней сделать.
В свою очередь, в мятежных анклавах создавали государство с нуля. Верховный Совет Абхазии возглавил Владислав Ардзинба. До этого он занимался преимущественно академической деятельностью. Ардзинба имел редкую специальность — хеттолог, занимался древнейшими цивилизациями. Однако не следует думать, что на передний план он вышел только благодаря своим ораторским талантам. Родственные связи Ардзинбы в абхазской элите простирались довольно далеко. Как бы то ни было, должность, которую он теперь занимал, вовсе не выглядела синекурой. Самопровозглашенной республике требовалось не только создавать свои органы власти, но и в ближайшей перспективе защищать самое себя. Одним из первых его шагов стала попытка прощупать почву на Северном Кавказе. Так началась короткая история Конфедерации горских народов Кавказа. Туда, кроме абхазов, вошли представители горных народов РСФСР, включая ингушей и чеченцев. Впоследствии по линии КГНК в Абхазию уехали несколько сот боевиков, включая одного из ключевых персонажей войны в Чечне — Шамиля Басаева.
Еще сложнее было положение Южной Осетии. Республика, возглавляемая бывшим директором средней школы Торезом Кулумбеговым, была уже фактически блокирована отрядами грузинских националистов. Микроскопическая Южная Осетия имела очень мало сил, чтобы защищаться. В январе грузинские добровольцы и милиционеры попытались войти в Цхинвал, столицу республики, но осетины разоружили городскую милицию и начали отбиваться. Южная Осетия была связана с Россией и Северной Осетией Рокским тоннелем на севере, и через него к южным осетинам постоянно прибывали добровольцы. Регулярная армия, конечно, легко бы смела отчаянных, но почти невооруженных ополченцев. Однако никакой регулярной армии у Грузии не было. Вооружение осетины доставали всеми возможными способами. Что-то нелегально доставлялось из Северной Осетии, что-то брали в качестве трофеев, некоторое количество оружия, вероятно, передавалось из российских военных городков. Вообще, советские силовики сохраняли нейтралитет, но явно благожелательный к осетинам.
Грузинским войскам так же, как и осетинам, недоставало вооружения, особенно тяжелого. Это, пожалуй, было главной причиной, по которой Цхинвал и села вокруг города не были уничтожены быстро. Стороны использовали даже пистолеты-пулеметы ППШ и однозарядные спортивные винтовки. У осетин имелось некоторое количество неуправляемых ракет, их запускали с помощью кустарных пусковых установок, которые изготавливались иногда даже из канализационных труб. Зато с севера доставлялось много взрывчатки, из которой делали самодельные мины.