Дарвин воздерживался давать развернутое определение инстинкта, но все же указывал, что имеет при этом в виду такой акт животного, который выполняется им «без предварительного опыта или одинаково многими особями, без знания с их стороны цели, с которой он производится».[23] При этом он с полным основанием отмечал, «что ни одно из этих определений не является общим».[24]
Ссылаясь на видного исследователя поведения животных первой половины XIX в. Фредерика Кювье (брата знаменитого зоолога и основателя палеонтологии позвоночных Жоржа Кювье), Дарвин сравнивает инстинкт с привычкой и указывает на ряд общих черт их проявления в противоположность сознанию. Но одновременно он предостерегает, что «было бы большой ошибкой думать, что значительное число инстинктов может зародиться из привычки одного поколения и быть наследственно передано последующим поколениям».[25]
Происхождение инстинктов Дарвин объяснял преимущественным действием естественного отбора, закрепляющего даже совсем незначительно выгодные виду изменения в поведении животных и накапливающего эти изменения до образования новой формы инстинктивного поведения. Дарвин стремился показать, «что инстинкты изменчивы и что отбор может влиять на них и совершенствовать их».[26]
Свою концепцию Дарвин сформулировал следующим образом: «Едва ли какой бы то ни было из сложных инстинктов может развиться под влиянием естественного отбора иначе, как путем медленного и постепенного накопления слабых, но полезных уклонений. Отсюда, как и в случае с органическими особенностями, мы должны находить в природе не постепенные переходы, путем которых развился каждый сложный инстинкт, — это можно было бы проследить только в ряде прямых предков каждого вида, — но должны найти некоторые указания на эту постепенность в боковых линиях потомков или, по крайней мере, мы должны доказать, что некоторая постепенность возможна, и это мы действительно можем доказать».[27] В подтверждение того, что происхождение даже весьма сложных форм инстинктивного поведения животных можно объяснить действием естественного отбора, Дарвин подвергает, в частности, обстоятельному анализу гнездовой паразитизм кукушки, «рабовладельческий инстинкт» некоторых видов муравьев и «самый удивительный из всех известных инстинктов — строительный инстинкт пчелы».[28]
Действие «одного общего закона, обусловливающего развитие всех органических существ, именно размножения, изменения, переживания наиболее сильных и гибели слабых»,[29] Дарвин показывает и на многих других примерах поведения диких и домашних животных. Роль наследственности в процессе эволюции инстинктивного поведения он иллюстрирует такими фактами, как, например, обмазывание гнезда глиной у южноамериканских и британских дроздов или замуровывание самок в дуплах у птиц-носорогов Африки и Индии.