Однако остальная часть альбома сильно отличалась: там были в равной степени впечатляющие масштабами звуковой архитектуры, но довольно бесстыдно заимствованные материалы, что было видно на примере финального трека, ‘How Many More Times’. Его авторами были указаны Пейдж, Джонс и Бонэм, но композиция явно основывалась на нескольких старых мелодиях, прежде всего, на ‘How Many More Years’ Хаулин Вулфа, на номере, который Пейдж и Бонэм исполнили в собственной версии в The Band of Joy, с вкраплением отрывков из ‘The Hunter’ Альберта Кинга. «Новая» версия Zeppelin начиналась с басового риффа, украденного из переработки ‘Smokestack Lightning’, представленной ранее The Yardbirds, с более чем явным отголоском версии той же мелодии, сыгранной в середине шестидесятых Gary Farr and the T-Bones, также переименованной в ‘How Many More Times’ (и спродюсированной первым менеджером The Yardbirds Джорджио Гомельским). Там даже был аккорд-другой, утащенный из ‘Kisses Sweeter Than Wine’ Джимми Роджерса, а также, как ни странно, сильно замедленный кусок соло Джеффа Бека из ‘Shapes of Things’ The Yardbirds. Все это могло просто засесть в головах группы, если бы прочие вещи с альбома тоже не содержали в себе намеки на работы других музыкантов, в основном, без указания благодарностей, ни тогда, ни сейчас.
В самом деле, все остальные треки с альбома, приписанные участникам группы, впоследствии стали предметами споров разной степени успешности. Они начались с ‘Babe I’m Gonna Leave You’, сделанной Пейджем драматической переработки народной песни, которая впервые прозвучала за пределами фолк-круга того времени на альбоме Джоан Баэз. Хотя на оригинальном альбоме Zeppelin она была справедливо обозначена как «народная» песня «в аранжировке Джимми Пейджа», к выпуску обновленной дискографии Zeppelin в 1990 году авторство было дополнено указанием Э. Бредон, американской фолк-певицы Энн Бредон, которая записала собственную версию в пятидесятых. Сейчас в основном признано, что на «новую аранжировку», которую Пейдж впервые сыграл Планту на акустической гитаре, по крайней мере, частично оказала влияние более ранняя обработка Бредон.
То же самое — с инструментальной композицией ‘Black Mountain Side’, сыгранной на акустической гитаре в экзотическом, своеобразном стиле Пейджа времени исполнения ‘White Summer’ для The Yardbirds, нисходящем к ударному аккомпанементу индийских ручных барабанов, известных как табла, сделанного в этом случае Вирамом Джасани. Если ‘White Summer’ была «интерпретированной» Пейджем знаменитой версией