О первом упоминании казачества можно говорить по церковному преданию о передаче донскими казаками Дмитрию Донскому после Куликовской битвы своих святынь. Шел 1380 год. Согласно преданию, казаки описаны как малоизвестный на Руси «народ христианский, воинского чина» живущий где-то на Дону, имеющий там «города», в которых он хранит свои чудотворные иконы. По русским же летописям, как до сих пор считалось, первое упоминание о казаках (рязанских) относится к 1443/1444 год.

Следующее упоминание идет о казаках в составе московского войска, и относится ко времени первой московско-казанской войны. Великий князь Иван Васильевич «…дворъ свои, послалъ на Каму воевати местъ Казанскыхъ съ Москвы к Галичу, Руна с казакы…». Также следует добавить, что в 1469 г. произошло экстраординарное для московского войска событие. Когда назначенный великим князем воевода, ссылаясь на отсутствие указаний из Москвы, упустил инициативу и утратил контроль над «личным составом», войско, по-казачьи встав в круг (!), избрало себе не родовитого, но популярного предводителя. Нет сомнения, что это произошло по инициативе и под непосредственным влиянием казаков, навязавших другим отрядам полюбившегося им «атамана», с чем остальным, в том числе и князьям, пришлось согласиться. Таким образом, есть основания считать 1469 г. датой начала пребывания казаков в Москве

Со времени правления царя Ивана Грозного постоянными стали упоминания о пеших и конных казаках, которые являлись частью русского войска. Впервые в летописи 1552 года о взятии Казани говорится, что казаки участвовали в штурме города-крепости.

При Иване Грозном началась служба казачества по сопровождению царских послов в Крым и обратно. Казаки за это стали получать государево жалованье.

Довольно скоро Москва поняла все значение казачества для охраны южных рубежей.

В 1571 году появился на свет первый воинский устав Русского государства, разработанный комиссией во главе с воеводой боярином Михаилом Воротынским. На основе этого устава казаков стали привлекать к пограничной службе, как городовых (полковых), так и сторожевых (или станичных).

Территориально московские казаки размещались в нынешнем Замоскворечье, в районе Китай-города и в Кадашевской слободе. Их служба с самого начала носила регулярный характер и была регламентирована специальным уставом.

Управление всеми московскими и других городов казаками в 16 веке находилось в ведении Стрелецкого Приказа. Он утверждал их на службу и увольнял с неё, выплачивал денежное жалованье, перемещал по службе, назначал в походы, определял начальствующих лиц: голов, сотников, командиров полков.

Внутреннее устройство Московских городовых казаков было таким же, как и у стрельцов. Рядовые казаки находились в подчинении у своего головы, который и набирал их на службу. Казацкий голова непосредственно подчинялся городовому воеводе или осадному голове. За службу правительство расплачивалось с городовыми казаками не только денежным жалованием, но и земельными наделами. Остальными же казаками ведал Посольский приказ.