Карнеги продал свои заводы Моргану по себестоимости и уехал в Европу. В его жизни без привычной работы теперь зияла пустота, заполнить которую он намеревался выполнением своей последней задачи по распределению богатств. Первый дар Карнеги был предназначен рабочим. Он создал специальный фонд в 4 млн долларов, целью которого было оказание помощи рабочим в несчастных случаях, а также выдача небольших пенсий тем, кто нуждается в пособии. Кроме того, Карнеги пожертвовал 1 млн долларов и проценты с этого капитала на содержание библиотек и читален для рабочих. 5,25 млн долларов пошли на открытие 68 библиотек в Нью-Йорке, за ними последовали 20 библиотек в Бруклине и народная библиотека и читальня в Аллегани Сити, затем – библиотека в Питтсбурге. Жителям этого города были также переданы картинная галерея, музей, ремесленные школы и женская школа – в общей сложности на 28 млн долларов.
На учреждение в Вашингтоне «Института Карнеги» первоначально пошло 10 млн долларов, но затем эта сумма возросла до 25 миллионов. Этот институт учреждался в целях «широких исследований, наблюдений и открытий, практического использования всех знаний для развития человечества; особенно же для проведения и поощрения исследований во всех областях науки, литературы, искусства и естественных наук». Институт оказывал всему миру неоценимую помощь своей яхтой «Карнеги», построенной из немагнитных материалов и совершающей кругосветные плавания для исправления ошибок морских измерений. Вторым полезным начинанием института стала обсерватория, построенная в Калифорнии. В 1902 г. Карнеги был избран почетным ректором Университета Св. Эндрю. Он считал это событие очень важным в своей жизни, поскольку оно открыло ему доступ в университетский мир. Ежегодно он проводил так называемую «ректорскую неделю», встречаясь с ректорами четырех шотландских университетов.
В 1904 г. бизнесмен основал пенсионный «Фонд героев», целью которого было награждение людей, совершивших героические поступки, и оказание помощи их семьям. В его списках во времена Карнеги числилось более 1430 героев и их семейств. В следующем году он учредил фонд в пользу науки – пенсионный фонд для престарелых профессоров. 10 млн долларов он пожертвовал Шотландии на то, чтобы одна часть процентов с этого капитала шла на стипендии нуждающимся студентам, а другая – в пользу самих университетов. В 1907 г. Карнеги стал председателем Общества мира. Им было пожертвовано 1,5 млн фунтов стерлингов на сооружение Храма Мира в Гааге.
Эту благотворительную деятельность Карнеги продолжал до конца своей жизни. Он умер в 1919 г., оставив о себе добрую память у миллионов соотечественников.