Новый этап в творчестве Рильке начался в Париже. Поэт жил во Франции с 1902 по 1911 год. В 1905 году была закончена третья книга «Часослова» — «О бедности и смерти». В это же время Рильке написал стихотворение «Пантера» — первое из огромного цикла «Новые стихотворения» и «Новых стихотворений вторая часть», изданного в 1907–1908 годах. Рильке создал новый жанр — «стихотворение-вещь». Каждое слово, каждый эпитет или образ «Новых стихотворений» всецело подчинялись строго очерченной теме, все лишнее исчезало. При богатой образности, которая по-прежнему украшала стихи Рильке, создавалось впечатление экономии средств выражения. Поэт стремился избавиться от зыбкости, аморфности, неопределенности; его слова не текли, как раньше, а как бы отвердевали.
Он превратил поэзию в нечто подобное изваянию, картине, рисунку. Усиление пластического начала в лирике Рильке произошло под влиянием работ скульптора Родена, о котором в 1903 году поэт напечатал монографию.
С 1904 по 1910 год Рильке работал над своим единственным романом — «Записки Мальте Лауридса Бригге», а также над циклом «Стихотворений в прозе», написанном в духе французского символизма. В начале 1912 года на берегу Адриатического моря, в замке Дуино, принадлежавшем княгине Марии Турн-унд-Таксис Гогенлоэ, поэт начал писать цикл из десяти элегий — произведение, беспрецедентное для европейской литературы. Лишенными рифмы и ритмического рисунка строками «Дуинских элегий» Рильке попытался возродить традиции немецкой классической поэзии и подражать Гельдерлину, что, безусловно, было смелым экспериментом. Работу над циклом поэт завершил лишь в 1922 году, одновременно написав свою последнюю книгу — «Сонеты к Орфею» — пятьдесят пять стихотворений, в противоположность «Дуинским элегиям» отточенных, необычайно совершенных. Певец Орфей — живой символ поэтического начала, учитель всех певцов и в то же время исконный прообраз поэта, наиболее близкий самому Рильке. Сонеты близки к античной философии, к учениям древних орфиков.
Последние семь лет Рильке прожил в Швейцарии, в старинной башне Мюзот. Он умер 29 декабря 1926 года и был похоронен в маленьком городке Рарон. «Сонеты к Орфею», посвященные памяти погибшей от лейкемии Веры Укама-Кнооп, стали реквиемом и самому поэту, сраженному тем же недугом.
Посмертная слава Рильке значительно превзошла его прижизненную известность. Его поэзии преклонялись Стефан Цвейг и Роберт Музиль, Эмиль Верхарн и Поль Валери, Борис Пастернак и Марина Цветаева. У Рильке не было сколько-нибудь значительных последователей — немецкие поэты, начиная с экспрессионистов, пошли иными путями, но его имя до сих пор символизирует то лучшее, что было создано австрийской и немецкой поэзией XX века.