Как-то во время прогулки он встретил в Тиргартене знакомого писателя Бертольда Ауэрбаха, автора «Деревенских рассказов». Некоторое время шли рядом, разговаривали. Ауэрбах позднее вспоминал, что ученый показался ему «легкой, нежной оболочкой, в которой жил великий, всеохватывающий дух». Якоб рассказывал, в какое одиночество его повергла смерть брата Вильгельма.
После прогулки Якоб возвращался домой и продолжал работать над «Словарем». Он был в середине работы над словами на букву F. Последнее слово, о котором он написал статью, было слово «Frucht» (плод). Словом «плод» он закончил многолетнюю работу над «Словарем» и закончил свою работу вообще... И это символично...
Лето 1863 года он провел в Гарце вместе с семьей Вильгельма. После возвращения «с настоящей душевной радостью» вновь принялся за работу. Но в сентябре 1863 года простудился и заболел. Казалось, что состояние его стало улучшаться, появился аппетит; он целыми днями читал, лежа в постели, и даже делал кое-какие заметки для будущей работы.
Развязка наступила неожиданно; о ней рассказала свидетельница происшедшего Августа, дочь Вильгельма, которой тогда был 31 год: «После обеда ему разрешили ненадолго встать, он самостоятельно подошел к окну и сел отдохнуть на обычный плетеный стул; он не ответил на несколько вопросов и вдруг упал мне на руки, с любовью и нежностью посмотрев на меня; он так побледнел, что я подумала, что он умирает или у него обморок, но это был апоплексический удар, поразивший правую сторону. Говорить он не мог. Ночью лежал в забытьи... Поднялась температура, сердце колотилось так, что, казалось, вот-вот разорвется».
Казалось, что Якоб все еще в сознании, казалось, что он узнает окружавших его друзей и родственников. Он протянул левую руку, взял фотографию Вильгельма, поднес почти вплотную к глазам, внимательно посмотрел на нее и положил перед собой на одеяло.
20 сентября 1863 года, в 10 часов 20 минут вечера он умер, по словам его племянницы Августы, «с выражением сердечной доброты, которая заполняла его жизнь».
Якоба положили в общей комнате. Огромный венок из белых роз, белые ленты с вышитыми на них словами: «Другу юношества от благодарных детей».
24 сентября 1863 года, в девять часов утра его похоронили рядом с братом Вильгельмом на кладбище у церкви св. Матфея.
Когда обоим братьям ставили надгробия, то, следуя последней воле Якоба, перед датами жизни и смерти высекли на камне имена братьев без всяких титулов: