В 1856 г. Томас Скотт был назначен директором Пенсильванской железной дороги и предложил Карнеги поехать с ним в Эльтуну. Там они проработали вместе более двух лет, и именно там произошло важное по своим последствиям событие. Однажды к Эндрю подошел человек, с виду похожий на фермера, и показал ему модель изобретенного им вагона для ночных поездок по железным дорогам, получившего впоследствии название спального. Это был ставший потом знаменитым изобретатель Вуудруф. И сам Карнеги, и его начальник по достоинству оценили это изобретение. В результате их дальнейших переговоров с Вуудруфом было условлено, что тот построит два спальных вагона, а они пустят их в обращение на линии в Эльтуне. Карнеги предложил изобретателю партнерство, претендуя на восьмую часть прибыли. И изобретатель, недолго думая, принял его предложение. Чтобы внести необходимый взнос – 217,5 долларов, – Эндрю первый раз в жизни выписал вексель и нашел банкира, который принял его. Спальные вагоны имели большой успех, и выручка вполне покрыла расходы и стала давать прибыль.
В 1859 г. энергичный и инициативный Карнеги, которому было тогда всего 24 года, был назначен начальником питтсбургского участка Пенсильванской железной дороги. Теперь его годовое жалованье составляло 1,5 тыс. долларов. Но эта ответственная должность была, конечно, очень нелегкой и требовала от него полной отдачи сил и времени: «Однажды мне пришлось восемь дней и ночей подряд провести на линии, потому что несчастные случаи на участке происходили один за другим. Чувство ответственности поддерживало мою энергию, и я не знал утомления. Мне было достаточно уснуть на полчасика где-нибудь в грязном товарном вагоне».
В следующем году Карнеги с матерью и братом (отец к тому времени уже умер) вернулся в Питтсбург. Теперь он смог позволить себе покупку загородного дома, а также бывать в высших кругах общества: «Я слышал там разговоры о таких предметах, о которых до сих пор ничего не знал, и поставил себе за правило каждый раз, когда заходила речь о чем-нибудь мне не известном, знакомиться с этим предметом. Благодаря этому у меня было радостное сознание, что я каждый день приобретаю какие-нибудь новые знания».
Во время войны Севера и Юга Эндрю переехал в Вашингтон, став помощником Скотта в департаменте «военной железнодорожной и телеграфной службы». Ему приходилось работать буквально день и ночь, чтобы поддерживать постоянное железнодорожное сообщение столицы с армией. Гражданская война нанесла немалый урон железной дороге. Особенно сказалось на ее деятельности отсутствие железа, цена на которое значительно поднялась. Недостаток в новых рельсах был такой большой, что в Америке ездить по железным дорогам стало едва ли не опасным. Эта ситуация навела Карнеги на мысль о целесообразности основания общества для производства железнодорожных рельсов. Таким образом, в Питтсбурге возник «Первый рельсовый завод».