Девятого апреля 1756 года Руссо поселился в Эрмитаже, вилле в лесу Монморанси, любезно предоставленной ему г-жой д’Эпине, одной из почитательниц французских энциклопедистов, подругой Гримма. Летом Руссо задумывает роман в письмах о любви между учителем и его ученицей; к концу 1756 года первые две части уже были готовы. Весной следующего года Руссо посетила Софи д’Удето, родственница г-жи д’Эпине, и страсть, внушенная ею, дала роману повое направление. Г-жа д’Удето, которая любила поэта Сен-Ламбера и тосковала по своему возлюбленному, находившемуся тогда в Германии, просила Руссо удовольствоваться ролью друга. После возвращения Сен-Ламбера летом 1757 года Руссо, подобно Сен-Пре, еще мечтал жить вблизи любящей четы и около года поддерживал переписку с Софи д’Удето, послужившей прообразом для Юлии — верной супруги и добродетельной матери. В декабре 1757 года Руссо, по свидетельству Мармонтеля, уже читал своему другу Дидро весь роман, а в сентябре 1758 года вступил в переговоры с издателем Реем, сообщив, что все шесть частей романа готовы. Таким образом, «Новая Элоиза» была написана приблизительно за восемнадцать месяцев пребывания в Эрмитаже, хотя автор отделывал роман еще на протяжении почти целого года, после того как, поссорившись со своими друзьями-философами и покинув Эрмитаж (в декабре 1757 г.), он переехал в Монморанси.
Печатание романа по разным причинам задерживалось, но еще до выхода в свет его содержание стало известно в литературных кругах. Руссо охотно читал «Юлию» своим друзьям и дарил собственноручно переписанные копии. Из его переписки с историком Дюкло и маршалом Люксембургским видно, что в 1760 году роман ожидали «с нетерпением», но успех «Новой Элоизы» превзошел все ожидания. Несмотря на многочисленные перепечатки и подделки амстердамского издания в Лионе, Руане, Бордо, Авиньоне, Льеже, а также за границей, удовлетворить спрос публики было невозможно. Книгопродавцы выдавали роман для чтения по двенадцать су за час. За первые сорок лет (до 1800 г.) «Новая Элоиза» выдержала свыше шестидесяти изданий — успех, какого не имело ни одно произведение французской литературы XVIII века (для сравнения укажем, что даже «Кандид» Вольтера издавался за это время только пятьдесят раз).
Названием «Новая Элоиза» Руссо напоминает о сходстве в положении своих героев с трагической судьбой средневековой любящей четы. Пьер Абеляр (1079–1143) — известный философ, родоначальник рационалистического и критического направления в схоластике, чье учение при жизни дважды было осуждено церковью, а «Введение в теологию» предано сожжению. Блестящие лекции Абеляра привлекали в Париж слушателей из разных стран Европы. Полюбив свою ученицу Элоизу (1101–1164), Абеляр вступил с ней в брак, который они оба хранили в тайне, ибо для карьеры ученого-теолога безбрачие было обязательным условием. Настаивая на сохранении тайны, Абеляр вызвал гнев приемного отца Элоизы, каноника Фюльбера, который из мести подослал лиц, совершивших над Абеляром насильственное оскопление. Элоиза удалилась в монастырь и оттуда, согласно преданию, поддерживала переписку со своим супругом, также оставившим свет, ободряя его и обнаруживая в горестях более стойкий характер, чем Абеляр.