С конца 90-х гг. XIX в. главным предметом исследований ученого стала теория вероятностей. Здесь он продолжил работу своего учителя П. J1. Чебышева и ввел новый объект исследования – последовательности зависимых случайных величин, получившие в дальнейшем название марковских цепей. Так называют последовательности случайных величин, для которых вероятность появления того или иною значения на (k+1)-м шагу зависит лишь от того, какое значение эта величина приняла на k-м шагу, и не зависит от значений величины на 1-м, 2-м, ..., (k-1)-м шагах.
Марковские цепи сразу после их открытия не нашли практических приложений, и ученому пришлось применять свои результаты к распределению гласных и согласных букв в поэме А. С. Пушкина «Евгений Онегин». Ведь за согласной чаще идет гласная, а за гласной – согласная, и в первом приближении можно считать, что вероятность появления гласной на (k+1)-м месте зависит лишь от того, гласной или согласной является буква, стоящая на k-м месте. Но, как всегда бывает с глубокими научными результатами, в дальнейшем были обнаружены гораздо более важные для практики области приложения марковских цепей (например, теория массового обслуживания). Из теории марковских цепей возникла общая теория случайных процессов, которая применяется при изучении лавинных процессов и других проблем.
А. А. Марков был страстным и убежденным борцом против произвола и несправедливости царского режима, выступал против попыток подчинить преподавание математики в школе религиозным взглядам. Он отказался от царских орденов, подал в Синод просьбу об отлучении от церкви, указав в ней, что не сочувствует всем религиям, которые, подобно православию, поддерживаются огнем и мечом и сами служат им. Резкие выпады против веры в чудеса содержатся в учебнике А. А. Маркова «Исчисление вероятностей», опубликованном в дореволюционное время. После выхода книги ученого обвинили в безбожии и «подрыве основ». От преследований его избавил лишь крах царского режима.
------------------------------------------
В теории вероятностей и ее применениях важную роль играют числовые характеристики случайных величин – математическое ожидание и дисперсия. Мы дадим их определение для дискретных случайных величин. Пусть x>1, x>2,... - возможные значения случайной величины ξ и p>1, p>2,... - вероятности этих значений, тогда сумма
называется математическим ожиданием ξ, а E(ξ - Eξ)>2 = Dξ - дисперсией ξ.
П.Л. Чебышев доказал закон больших чисел в очень общей форме, а именно: пусть ξ>1, ξ>2, ... - последовательность независимых случайных величин с математическими ожиданиями