Крымскую войну полковник Кауфман встретил в должности командира Кавказского саперного батальона. В 1855 г. он назначается командиром гвардейского саперного батальона и в этом качестве участвует во взятии хорошо укрепленной английскими инженерами турецкой крепости Карс. В деле под Карсом Константин Петрович проявил себя не только как способный военный инженер, сумевший эффективно обеспечить осаждавшие крепость русские войска в инженерном отношении, но и как дальновидный аналитик. Он организовал тщательный опрос местных жителей, которые снабжали турецкий гарнизон провиантом и фуражом, и составил четкое представление о запасах того и другого в осажденной крепости. Сделав расчеты, он доложил главнокомандующему Кавказским корпусом Н.Н. Муравьеву, что Карс падет в ноябре. Муравьев поверил командиру гвардейских саперов и усилил плотность осады. 16 ноября 1855 г. 20-тысячный гарнизон капитулировал[169], что резко повысило авторитет 37-летнего полковника в глазах начальства. С восшествием на престол нового Императора (тот короновался, кстати, 19 февраля, то есть в день рождения К.П. Кауфмана), инженер-полковник назначается членом совета Императорской военной академии, а в 1858 г. был включен в состав Свиты Его Императорского Величества, что свидетельствовало о благорасположении к нему Государя.
Став в 1860 г. директором канцелярии Военного министерства, Кауфман активно поддержал товарища министра, а с 1861 г. главу военного ведомства Д.А. Милютина в его реформаторских начинаниях. Совместные усилия в организации военных округов, новых военных учебных заведений и других нововведений сблизили двух молодых генералов (Кауфман был произведен в генерал-майоры в 1862 г.). С тех пор они стали соратниками-единомышленниками до конца дней Константина Петровича. Именно из недр Военного министерства в 1865 г. генерал-лейтенант и генерал-адъютант К.П. фон Кауфман был «рекрутирован» в генерал-губернаторы Привисленского (Северо-Западного) края.
Теперь же, полузабытый, он скромно жил на Васильевском острове, в то время как «высшие сферы» напряженно обсуждали проблему новых территориальных приобретений на дальних юго-восточных рубежах империи.
11 июля 1867 г. был принят специальный закон: было создано Туркестанское генерал-губернаторство в составе двух областей – Сырдарьинской и Семиреченской. По рекомендации Д.А. Милютина генерал-губернатором нового края был назначен К.П. фон Кауфман. Царским манифестом от 17 июля 1867 г. ему были предоставлены неограниченные полномочия «к решению всяких политических, пограничных и торговых дел, к отправлению в сопредельные владения доверенных лиц для ведения переговоров и к подписанию трактатов, условий или постановлений, касающихся взаимоотношений России с этими странами»