Окончательно служба казаков была организована и упорядочена в ХVI веке. Во время военных действий из вольных нетяглых людей и из безземельных батраков набирались воины на полицейскую службу в городах и на пограничную службу на окраинах страны. За службу они получали поместья наравне с «боярскими детьми» (боярскими дружинниками-«вассалами»). Такие казаки были во многих пограничных городах. Ведал ими Разрядный приказ.
В ХVI веке казаки стали чаще получать жалованье деньгами, чем землей. В этом проявляется их основное отличие от крепнущего служилого сословия – дворянства. Судя по жалованью, казаки составляли наименее оплачиваемую часть войска. Их жалованье – 3–4 рубля в год – уступает стрелецкому (7 рублей) и в 10 раз меньше среднего дворянского.
В 1571 году боярин князь Воротынский составил «Устав сторожевой станичной службы», который упорядочил казачью службу и разделил казаков на городовых или полковых, которые пожизненно несли в городах полицейскую службу, и на сторожевых или станичных, которые несли пограничную службу. Служба неслась за деньги, но казачьи начальники часть жалованья за службу получали земельными пожалованиями.
Казалось бы, все упорядочено и определено раз и на всегда, но и среди русских казаков появляются отряды, которые уходят на ничейные территории и объединяются там в вольные сообщества, занимаются охотой, рыбной ловлей, а, кроме того, разбоями и грабежами.
Ближе к середине ХVI века, как только на московском троне утвердился Иван IV, объявились на Дону русские люди определенной профессии, которых турки сразу же назвали «казаки русского царя Ивана». Царь же Иван, в лучших традициях, указывал на интернациональный характер этих объединений: «И вам гораздо ведомо: лихих где нет? На Поле ходят казаки многие: казанцы, азовцы, крымцы и иные баловни казаки; а и наших украин казаки с ними смешались, ходят, и те люди как вам воры, так и нам воры и разбойники».
В 1548 году из Крыма к астраханскому хану было направлено посольство. Когда посольство добралось до Волго-Донской переволоки, то напал на него некто Михайло Черкашенин со своими людьми и разгромил. Через несколько лет имя Михайлы Черкашенина вновь всплывет в грамотах, и будет он там зваться атаманом донских казаков.
В следующем 1549 году история повторилась. Ногайский князь Юсуф написал царю Ивану IV (Грозному): «Холопи твои, нехто Сары-Азман словет, на Дону в трех и в четырех местах города поделали… да наших послов… и людей стерегут да разбивают».
Царь в ответном послании признал, что Сары-Азман и другие действительно его холопы (подданные), «и те наши холопи в нашей земле многое лихо учинили» и убежали на Дон. И позже Иван Грозный на упреки и жалобы турок, татар и ногайцев отвечал: «На Дону живут разбойники без нашего ведома… Мы и прежде сего посылали истреблять их, но люди наши достать их не могут».