Он происходил из богатой и просвещенной еврейской семьи. Его дед, философ Моисей Мендельсон, получил признание вопреки антиеврейским предрассудкам в Германии той эпохи. Дед Феликса в четырнадцатилетием возрасте прибыл в Берлин в крайне плачевном состоянии. Тощий и уродливый, он стоял перед стражей у главных городских ворот. Когда его спросили, для чего он пришел, Моисей, заикаясь, попытался произнести единственное известное ему на немецком языке слово: «Lernen» — учиться. Поскольку евреям запрещалось пользоваться главным входом, стража отослала его к воротам, через которые впускали скот. В книге регистрации тех дней сохранилась запись: «Сегодня через ворота пропустили 6 волов, 7 свиней и одного еврея». Это произошло в 1743 году.
Прошли десятилетия, и это имя заняло исключительное положение в истории культуры немецкого и еврейского народов. М. Мендельсон был не только первым евреем в Германии, выступившим во всеоружии европейского знания и обладавшим к тому же самыми благородными душевными качествами. Он являлся в то же время одним из творцов немецкого литературного стиля, первым немецким писателем, говорившим о философских проблемах в общедоступной, ясной форме. Дружбы с Мендельсоном добивались великие мыслители, коронованные особы и владетельные князья. Его ближайшим другом был знаменитый немецкий писатель, критик и драматург Готхольд Эфроим Лессинг, много сделавший для преодоления в немецком обществе ханжества, лицемерия и расовых предрассудков.
Отец композитора, Абрахам Мендельсон («прежде сын своего отца, а теперь отец своего сына», как он сам говорил), добился завидного положения в финансовом мире и, поселившись в Гамбурге, открыл там вместе с братом банкирскую контору. Он и его жена Лия приняли христианство, и их дети были крещены под фамилией Мендельсон-Бартольди. Феликс был вторым ребенком в семье; его старшая сестра Фанни была одаренным музыкантом. Абрахам Мендельсон считал главными в своей жизни два дела — обеспечение материального благополучия семьи и воспитание детей. Поэтому дети получили блестящее домашнее образование. В 1812 году семья переехала в Берлин. Феликс Мендельсон был, вероятно, величайшим вундеркиндом в истории музыки (даже более великим, чем Моцарт). Как и у Моцарта, у него была играющая сестра, которая помогала его развитию и воплощала в звуки его идеи.
Юный Феликс рос в богатой творческой и интеллектуальной атмосфере. В доме Мендельсонов часто бывали многие знаменитые люди того времени, в частности знаменитый философ Фридрих Гегель, историк Бек, дирижер и композитор Спонтини, поэт Брентано, чародеи-сказочники братья Гримм, великий скрипач Никколо Паганини, певица Вильгельмина Шредер-Девриент, композитор Вебер, видный музыкальный педагог и композитор того времени Карл Цельтер — глава берлинской певческой академии. Именно Цельтер обратил внимание на яркие музыкальные способности Мендельсона и стал давать ему уроки теории музыки. Одновременно Мендельсон начал заниматься на фортепиано у Людвига Бергера и на скрипке у Карла Хеннинга.