Как отрасль научных знаний сравнительная педагогика зародилась в XVIII–XIX вв. Ее появление в таком качестве оказалось следствием интересов и потребностей европейского образования. Труды первых компаративистов конца XVIII – 1-ой половины XIX вв. (И. Г. Гарднер, И. П. Бринкман – Германия, Э. А. Эверс – Швейцария, Дж. Ниф, Д. Гриссом – США, С. Бассет, М. А. Жюльен – Франция и др.) содержат анализ педагогического опыта стран Западной Европы и США.
М. А. Жюльена Парижского (1775–1848) именуют «отцом» сравнительной педагогики. В «Очерке и предварительных заметках к исследованию по сравнительной педагогике» (1817) он впервые употребил термин «сравнительная педагогика». Им сделана попытка сформулировать цели и функции сравнительно-педагогических исследований, обозначить методы сбора и систематизации фактического материала. Жюльен видел необходимость в учреждении европейского педагогического журнала и международной исследовательской ассоциации для классификации и сравнения содержания и методов образования в странах Европы. С целью получения репрезентативных данных Жюльен составил обширный вопросник (более 250 вопросов), касающийся разных сторон деятельности школы, и предлагал разослать его правительствам европейских государств. Некоторые вопросы предусматривали сбор количественных и фактических данных, например: «Какова продолжительность классных занятий в день?» Были и значительно более сложные вопросы, например: «Как выявляются и учитываются индивидуальные особенности учащихся?»
Для сравнительной педагогики XIX столетия характерна установка обращать внимание в первую очередь на такие явления за рубежом, которые обладали позитивным потенциалом и могли быть учтены в отечественной педагогике и школе. Ученые, изучая зарубежный педагогический опыт, заботились в первую очередь о совершенствовании систем образования в своих странах: К. Д. Ушинский, Л. Н.Толстой, Н.И. Пирогов (Россия), В. Кузен, Ц. Крузе и Ф. Тирш (Германия), М. Садлер (Великобритания), X. Манн, Г. Стоу, Ч. Турберг (США) и др. Сколько-нибудь системная концептуализация исследований не являлась приоритетом. Речь шла скорее о возможностях адаптации моделей образования, существовавших за пределами собственной страны. Вместе с тем были сделаны первые попытки определения цели, задач, проблем и методов сравнительно-педагогических исследований.
Во 2-й половине XIX в. на Западе были созданы научно-методические педагогические центры, занявшиеся в том числе и сравнительными исследованиями: Служба просвещения в Вашингтоне (1866), Музей педагогики в Париже (1879). В этих центрах приступили к сбору и обработке статистических материалов об образовании в разных странах.