Мозес родился в немецком городе Дессау в бедной многодетной еврейской семье учителя и переписчика Торы. Когда его учителю-талмудисту предложили место раввина в Берлине, то подросток Мозес отправился пешком вслед за своим учителем. В Берлине любознательный юноша при поддержке образованных евреев изучил немецкий, французский, английский языки, а также латынь, основы математики и естествознания. Он знакомится с трудами средневекового еврейского философа Маймонида, английского философа-материалиста Джона Локка. Его настольной книгой становится сочинение немецкого философа, математика и физика Лейбница «Новые опыты о человеческом разуме». Благотворно повлияло на развитие Мендельсона его знакомство и дружба с немецким драматургом и теоретиком искусства Лессингом.
В возрасте 33-х лет Мендельсон посватался к 24-летней Фромет Гугенхайм, дочери купца из Гамбурга. Хорошенькая голубоглазая блондинка при виде невзрачного жениха, к тому же с искривленным позвоночником из-за болезни в детстве, заплакала. По бытующей легенде Мозес привлек к себе внимание красавицы Фромет своим рассказом-байкой: «Когда еврейский ребенок должен родиться, на небесах решается, с кем ему предстоит вступить в брак. Накануне рождения и мне была предназначена жена, к тому же было известно, что она будет горбатой. И я обратился с мольбой к милостивому Богу: пусть лучше горб достанется мне, а девушка пусть растет стройной и милой». Фромет бросилась на шею Мозесу и согласилась на брак. Их брак был счастливым. От него родилось десять детей, из которых выжило лишь шестеро.
Изучая еврейскую религию, Мозес Мендельсон заметил, что за многие века в религиозное учение евреев вкралось немало ошибок, произвольных прибавлений и неверных толкований по вине переписчиков и толкователей Торы. Он перевел на немецкий язык Пятикнижие Моисеево, очистил его от ошибок и неверностей. По этому поводу он писал: «Этим будет сделан первый шаг по пути просвещения, от которого мои соплеменники, к крайнему моему сожалению, настолько далеки, что можно порою отчаиваться за будущее еврейского народа. Мой долг поэтому сделать всё возможное для его блага». С этого перевода началось еврейское Просвещение (Хаскала).
Мендельсона волновало удручающее положение евреев в Германии. Он видел свою задачу в выводе евреев из гетто. Он считал, что необходимо евреев гетто приобщить к общечеловеческим ценностям, без чего невозможно преодолеть обособленность евреев. По его мнению, более важно светское просвещение евреев, чем религиозное. Особое неудовольствие ортодоксов вызвали требования Мендельсона отделить религию от государства и предоставить полную свободу совести.